ABD'de Mount Shasta tırmanışına geçen üç acemi dağcı; rota seçimi, zamanlama ve malzeme hazırlıklarını büyük oranda yapay zekadan aldıkları bilgilere göre planladı.
Yapay zekanın önerisi doğrultusunda ihtiyaç duymaları gerekenden çok daha az yiyecek ve su ile yola çıkan grup, hesaplanan süreleri aşarak zirveye oldukça geç saatte ulaşabildi.
Dönüş yolunda karanlıkta rotadan çıkan ve dik kanyonda mahsur kalan dağcılardan biri düşerek dizinden yaralandı.
SEKİZ SAATLİK PLAN DAĞDA KABUSA DÖNÜŞTÜ
Kaliforniya'nın Roseville kentinden gelen üç arkadaş, cumartesi günü yaklaşık 2 bin 560 metre yükseklikte kamp kurarak tırmanışa hazırlandı.
Pazar günü saat 03.00'te Clear Creek rotası üzerinden hafif sırt çantalarıyla harekete geçen grup, güvenli geri dönüş için tavsiye edilen 12.00 sınırını aşarak tırmanışı sürdürdü. Yaklaşık 4 bin 322 metre yükseklikteki zirveye ancak akşam 19.00'da varabilen dağcılar, havanın kararmasıyla birlikte inişte büyük yön kargaşası yaşadı.
Yön bulmak için yetkilileri aramalarına rağmen verilen talimatların dışına çıkan grup, tehlikeli Mud Creek Kanyonu'na sürüklendi. Yaralanma ve karanlık nedeniyle geceyi kanyonda geçiren gruba ertesi sabah tırmanış görevlileri ulaştı ve ilk müdahalenin ardından dağcılar emniyetle başlangıç noktasına indirildi.
"YAPAY ZEKAYA GÜVENMEK KRİTİK HATA"
Başarıyla tamamlanan kurtarma operasyonunun ardından açıklama yapan dağcılar, güzergâh ve ekipman tercihlerinde tamamen yapay zeka yönlendirmelerine bağlı kaldıklarını itiraf etti. Bölge yetkilileri ise yapay zekanın gruba yetersiz besin ve su önermesini "kritik bir hata" olarak tanımladı.
lear Creek rotasının teknik bir tırmanış içermemesine rağmen kaybolma durumunda çok daha ölümcül arazilere çıktığına dikkat çeken uzmanlar, dağcılara şu uyarılarda bulundu:
1.Tırmanış öncesinde mutlaka yerel korucular ve bölgeyi bilen uzmanlarla iletişime geçin.
2.İlerleme esnasında rotanızı harita ve saha işaretleriyle düzenli olarak doğrulayın.
3.Planlama aşamasında yalnızca yapay zekaya, cep telefonlarına veya GPS cihazlarına güvenmeyin.
Çin'in Chuzhou şehrinde yaşayan 67 yaşında çiftçi Wu, tarlasındaki yabanı otlar ve haşerelerden kurtulmak için yapay zekaya başvurmasıyla 100 dönümlük tarlasını kendi elleriyle yok etti.
Yaklaşık olarak 1 yıldır tarımsal tavsiyeler almak için yapay zekadan destek alan çiftçi Wu, daha önce sistemden oldukça başarılı ve doğru yönlendirmeler aldığı için zamanla yapay zekaya güven duymaya başlamıştı.
Ancak duyduğu bu güven, yaklaşık 100 dönümlük (10 hektar) tarlasındaki tüm ürününü kaybetmesine yol açtı.
UZMANLARA DANIŞMADAN İLAÇLAMA YAPTI
Çiftçi Wu, tarlasındaki yabani otlar ve zararlı canlılarla mücadele etmek için yapay zekadan özel bir ilaçla planı talep etti.
Yapay zeka uygulaması, çiftçiye aralarında fomesafen maddesinin de bulunduğu bir kimyasal karışım hazırlamasını ve bunu tarlasına drone ile püskürtmesini önerdi.
Yapay zekanın önerisine tamamen güvenen Wu, ilaçlama planı hakkında bir uzmandan destek almadan yapay zekanın dediklerini harfiyen uyguladı.
İlaçlamanın hemen ertesi günü tarlada büyük bir yıkım başladı.
Yalnızca yabani otlar değil, Wu'nun gözü gibi baktığı tüm susam fideleri de hızla kurumaya başladı.
Hatta çiftçinin uyguladığı ilaçlama planı sebebiyle susam fideleri, otlardan bile daha hızlı şekilde öldü.
HATALI TAVSİYE FELAKETE YOL AÇTI
Yapılan incelemeler sonrasında, yapay zekanın önerdiği fomesafen adlı herbisitin aslında soya tarlalarındaki geniş yapraklı yabani otlarla mücadele etmek için kullanıldığı tespit edildi.
Susamın kendisi de geniş yapraklı bir bitki olduğundan dolayı ilaçtan doğrudan etkilenerek yok oldu.
Üstelik bu ilacın tüm tarlaya püskürtülmeyip, yalnızca sorunlu bölgelere lokal olarak uygulanması gerekiyordu.
Zarara uğrayan çiftçi, yapay zekanın kendisini olası tehlikeli sonuçlar konusunda uyarmadığını belirtti.
Buna karşın uygulamada, yapay zeka tarafından üretilen bilgilerin hatalı olabileceğine ve mutlaka doğrulanması gerektiğine dair standart bir yasal uyarı metninin yer aldığı ifade edildi.
Yaşanan olay, yapay zekanın son derece ikna edici olsa bile yanlış yönlendirmelerde bulunabileceğini gözler önüne sermiş oldu.
Özellikle fiziksel veya maddi zarar yol açabilecek kritik uygulamalarda uzman görüşü almak büyük önem taşıyor.
