Yapay zekâ artık günlük hayatın yanı sıra tarımda da çiftçilerin kararlarına yön vermeye başladı. Ancak bir çiftçinin aldığı dijital tavsiyeye fazla güvenmesi, yıllardır emek verdiği ürünleri için ağır bir bedelle sonuçlandı. 67 yaşındaki çiftçinin yaşadığı olay, yapay zekâdan alınan bilgilerin özellikle kritik kararlarda neden mutlaka kontrol edilmesi gerektiğini bir kez daha gündeme getirdi.
Çin'in Chuzhou şehrinde yaşayan 67 yaşında çiftçi Wu, tarlasındaki yabanı otlar ve haşerelerden kurtulmak için yapay zekaya başvurmasıyla 100 dönümlük tarlasını kendi elleriyle yok etti.
Yaklaşık olarak 1 yıldır tarımsal tavsiyeler almak için yapay zekadan destek alan çiftçi Wu, daha önce sistemden oldukça başarılı ve doğru yönlendirmeler aldığı için zamanla yapay zekaya güven duymaya başlamıştı.
Ancak duyduğu bu güven, yaklaşık 100 dönümlük (10 hektar) tarlasındaki tüm ürününü kaybetmesine yol açtı.
UZMANLARA DANIŞMADAN İLAÇLAMA YAPTI
Çiftçi Wu, tarlasındaki yabani otlar ve zararlı canlılarla mücadele etmek için yapay zekadan özel bir ilaçla planı talep etti.
Yapay zeka uygulaması, çiftçiye aralarında fomesafen maddesinin de bulunduğu bir kimyasal karışım hazırlamasını ve bunu tarlasına drone ile püskürtmesini önerdi.
Yapay zekanın önerisine tamamen güvenen Wu, ilaçlama planı hakkında bir uzmandan destek almadan yapay zekanın dediklerini harfiyen uyguladı.
İlaçlamanın hemen ertesi günü tarlada büyük bir yıkım başladı.
Yalnızca yabani otlar değil, Wu'nun gözü gibi baktığı tüm susam fideleri de hızla kurumaya başladı.
Hatta çiftçinin uyguladığı ilaçlama planı sebebiyle susam fideleri, otlardan bile daha hızlı şekilde öldü.
HATALI TAVSİYE FELAKETE YOL AÇTI
Yapılan incelemeler sonrasında, yapay zekanın önerdiği fomesafen adlı herbisitin aslında soya tarlalarındaki geniş yapraklı yabani otlarla mücadele etmek için kullanıldığı tespit edildi.
Susamın kendisi de geniş yapraklı bir bitki olduğundan dolayı ilaçtan doğrudan etkilenerek yok oldu.
Üstelik bu ilacın tüm tarlaya püskürtülmeyip, yalnızca sorunlu bölgelere lokal olarak uygulanması gerekiyordu.
Zarara uğrayan çiftçi, yapay zekanın kendisini olası tehlikeli sonuçlar konusunda uyarmadığını belirtti.
Buna karşın uygulamada, yapay zeka tarafından üretilen bilgilerin hatalı olabileceğine ve mutlaka doğrulanması gerektiğine dair standart bir yasal uyarı metninin yer aldığı ifade edildi.
Yaşanan olay, yapay zekanın son derece ikna edici olsa bile yanlış yönlendirmelerde bulunabileceğini gözler önüne sermiş oldu.
Özellikle fiziksel veya maddi zarar yol açabilecek kritik uygulamalarda uzman görüşü almak büyük önem taşıyor.
Filipinler'in Palawan eyaletinde bulunan özel bir ada, dünya gündemini sarsan radikal bir yönetim deneyiyle dikkatleri üzerine çekti. İngiliz girişimci Dan Thomson tarafından başlatılan ve "Sensay" adı verilen proje; Gandhi, Mandela, Roosevelt ve Sun Tzu gibi tarihe yön veren 17 liderin yapay zeka modelleriyle yönetilmeyi hedefliyor.
Şimdiden 12 bin kişinin "e-vatandaşlık" başvurusu yaptığı ada, bağımsız bir mikro ulus olduğunu iddia etse de resmi devletler düzeyinde herhangi bir uluslararası tanınabilirliğe sahip değil.
Filipinler'deki küçük bir ada, uluslararası hukuk ve teknoloji dünyasında eşine az rastlanır bir idari deneye ev sahipliği yapıyor.
İngiliz teknoloji girişimcisi Dan Thomson liderliğinde kurulan "Sensay" isimli proje, adayı 17 farklı tarihi lider, düşünür ve stratejistin yapay zeka kopyalarından oluşan dijital bir meclisle yönetmeyi vaat ediyor.
Mahatma Gandhi, Nelson Mandela, Eleanor Roosevelt, Sun Tzu ve Marcus Aurelius gibi isimlerin konuşma, makale ve felsefi yazılarıyla eğitilen algoritma modelleri; adanın karar alma süreçlerinde oy kullanarak bir tür dahi konseyi işlevi görecek.
Projeye yönelik ilgi şimdiden büyük boyutlara ulaşmış durumda. Dünyanın dört bir yanından yaklaşık 12 bin kişi adanın sunduğu dijital "e-vatandaşlık" sistemine kaydolmak için başvuruda bulundu.
Ancak bu başvuru yoğunluğuna tezat olarak, fiziksel adada şu an için yalnızca bir kişi yaşıyor.
Ziyaretçiler ve gelecekteki yerleşikler için 30 villa yapılması planlanırken, sistemin işleyişi ise tamamen çevrimiçi platformlar üzerinden yürütülüyor.
Kendisini "yapay zekayla yönetilen egemen mikro ulus" olarak tanımlayan ada; resmi bir pasaport, uluslararası tanınma veya devlet statüsü taşımıyor.
