Yapay Zekanın Yanlış Tavsiyesi Tarla Mahsulünü Kuruttu

Yapay zeka teknolojisinin tarım ve sanayi gibi kritik alanlardaki kullanımının artması, beraberinde ciddi güvenlik ve doğruluk risklerini de gündeme taşıyor. Çin'in Anhui eyaletine bağlı Chuzhou şehrinde yaşayan 67 yaşındaki bir çiftçi, üretim süreçlerini yapay zekaya emanet ederek büyük bir maddi kayıp yaşadı.

Doğrulanmayan Reçete Tarla Mahsulünü Yok Etti

Susam tarlasındaki yabani otlar ve zararlılarla mücadele için yapay zekadan yöntem önerisi alan çiftçi, sistemin sunduğu reçeteyi başka kaynaklardan teyit etmeden uygulamaya koydu. Yapay zekanın önerdiği ilaç kullanımı sonucunda, 25 dönümlük alandaki tüm filizler kurudu. Ziraat uzmanlarının yaptığı incelemede, hatanın "flufenaset" adlı ot ilacından kaynaklandığı tespit edildi.

Uzmanlar, söz konusu etken maddenin hedefli ve doğru tekniklerle kullanılmaması durumunda susam tarlalarına ciddi zarar verebileceğine dikkat çekti. İlginç bir detay ise, yapay zeka uygulamasının ekranında "Yapay zeka içeriği hatalı olabilir, lütfen doğrulayın" uyarısının yer alması, ancak çiftçinin bu uyarıyı dikkate almaması olarak kaydedildi.

Yapay Zekanın Bilgi Kirliliği ve Sağlık Riskleri

Bu olay, yapay zekanın ürettiği hatalı bilgilerin sadece ekonomik değil, hayati riskler de taşıdığını bir kez daha kanıtladı. Geçtiğimiz yıl, bir kullanıcının sofra tuzunu kesme tavsiyesi üzerine yapay zekanın yönlendirmesiyle gıdalarına sodyum bromür eklemesi, ciddi bir sağlık krizine yol açtı. Üç ay boyunca bu kimyasalı tüketen kişi, brom zehirlenmesi teşhisiyle hastaneye kaldırıldı ve psikoz tedavisi gördü.

Annals of Internal Medicine dergisinde yayımlanan incelemeler, yapay zeka uygulamalarının bilimsel açıdan hatalı bilgiler üretebileceği ve bilgi kirliliğine yol açabileceği konusunda uzmanları uyarıyor.