Google AI Overviews'ta 'Halüsinasyon' Krizi: Kurgusal SCP Evrenini Gerçek Sundu

Google'ın arama deneyimini kökten değiştirmek amacıyla sunduğu AI Overviews özelliği, dijital dünyada ciddi bir bilgi kirliliği ve "halüsinasyon" kriziyle karşı karşıya. Yapay zeka destekli özet panellerinin, internette kolektif bir yazım projesi olarak geliştirilen kurgusal korku evreni SCP Foundation (SCP Vakfı) ile ilgili verileri, gerçek dünyada var olan olgularmış gibi sunması teknoloji dünyasında yankı uyandırdı.

Kurgu ile Gerçeklik Arasındaki Çizgi Bulanıklaştı

Kullanıcıların SCP varlıkları hakkında yaptığı aramalarda, AI Overviews'un bu kurgusal yaratıkları ve vakfın gizli operasyonlarını gerçek bilgi kaynaklarından alıntılıyormuş gibi özetlediği görüldü. Aslında bir topluluk projesi olan ve bilimkurgu, korku ile fantezi unsurlarını barındıran SCP Foundation, internet üzerindeki devasa wiki sayfaları ve forumlar aracılığıyla detaylandırılmış bir evrendir. Ancak yapay zeka, bu yoğun içerik hacmini analiz ederken kurgu ile gerçeklik arasındaki ayrımı yapamadı.

Yapay Zekanın 'Halüsinasyon' Problemi Nedir?

Bu durum, yapay zeka literatüründe halüsinasyon (hallucination) olarak adlandırılan teknik bir yetersizliğin örneği olarak değerlendiriliyor. LLM (Büyük Dil Modelleri), internetteki veri setlerini olasılıklar üzerinden işlediği için, bir konu hakkında ne kadar çok veri (bu durumda binlerce kurgusal SCP makalesi) varsa, onu gerçek bir bilgi olarak sunma eğilimi artabiliyor. Google'ın SGE (Search Generative Experience) sürecinde yaşadığı bu sorun, AI'nın bilgi doğrulama mekanizmalarının henüz mükemmel olmadığını kanıtlar nitelikte.

Dijital kültür uzmanları, bu tür hataların özellikle genç kullanıcılar ve dijital okuryazarlığı düşük kitleler üzerinde yanıltıcı etkiler yaratabileceği konusunda uyarıyor. Bilginin kaynağının doğrulanmadığı özet panelleri, internetteki "creepypasta" veya "alternatif gerçeklik" projelerinin gerçek dünya bilgisi olarak kabul edilmesine yol açabiliyor.