İsveç’te başlayan sıra dışı bir deney, yapay zekâdan sağlık bilgisi alırken neden yalnızca cevabın ne kadar ikna edici göründüğüne güvenilmemesi gerektiğini ortaya koydu. Göteborg Üniversitesi’nden tıp araştırmacısı Almira Osmanovic Thunström liderliğindeki ekip, 2024 yılında tamamen hayali bir rahatsızlık yarattı ve adına “bixonimania” dedi. Ardından bu hastalık hakkında sahte bilimsel çalışmalar hazırlayarak internete yükledi. Bir süre sonra ise beklediklerinden çok daha ilginç bir tabloyla karşılaştılar.
Araştırmacıların hazırladığı senaryoya göre bixonimania, uzun süre dijital ekranlardan yayılan mavi ışığa maruz kalmayla ilişkilendirilen, göz çevresinde çeşitli belirtilere yol açan bir rahatsızlıktı. Gerçekte ise tıp literatüründe böyle bir hastalık bulunmuyordu.
İşin ilginç tarafı, araştırmacıların insanları gerçekten kandırmaya çalışmamasıydı. Tam tersine hazırladıkları içeriklerin içerisinde bunların kurmaca olduğunu ele veren çok sayıda ipucu bulunuyordu. Amaç, yapay zekâ sistemlerinin bilimsel bir metin görünümünde karşılarına çıkan bilgiyi gerçekten sorgulayıp sorgulamadığını görmekti.
Ekip bixonimania hakkında iki sahte çalışma hazırladı ve bunları 2024’ün başında bir ön baskı sunucusuna yükledi. Ön baskılar, bilimsel çalışmaların hakem değerlendirmesinden geçmeden önce araştırmacılarla paylaşılabildiği platformlarda yayımlanan metinler olarak biliniyor.
Tam da bu nedenle internette bir metnin bilimsel makale biçiminde görünmesi, onun mutlaka hakem değerlendirmesinden geçtiği veya içindeki bilgilerin doğrulandığı anlamına gelmiyor. Bixonimania deneyinde yaşananların en dikkat çekici taraflarından biri de tam olarak buydu.
Araştırmacılar sahte çalışmaların internete yüklenmesinin ardından yapay zekâ sistemlerinin vereceği yanıtları takip etti. Sonuç şaşırtıcıydı. ChatGPT, Google Gemini, Microsoft Copilot ve Perplexity gibi yaygın kullanılan sistemlerin farklı dönemlerde bixonimania hakkında gerçek bir rahatsızlıkmış gibi bilgiler verdiği görüldü. Hatta Copilot bir yanıtta uydurma rahatsızlığı “ilginç ve nispeten nadir görülen” bir durum olarak tanımladı. Böylece internete bırakılan iki sahte çalışma, yapay zekâ tarafından yeniden işlenerek son derece inandırıcı görünen sağlık bilgilerine dönüşmüş oldu.
Hikâye yalnızca sohbet botlarının kandırılmasıyla bitmedi. Bixonimania hakkında hazırlanan sahte çalışmalardan biri başka bir akademik çalışmada kaynak olarak kullanılmaya başladı. Nature’ın aktardığına göre uydurma bixonimania çalışmasına atıfta bulunan makale hakemli bir dergide yayımlandı. Daha sonra sorun fark edildi ve söz konusu çalışma Mart 2026’da geri çekildi. Böylece tamamen hayali bir hastalık için oluşturulan sahte bilgi, internetten yapay zekâya ve oradan yeniden akademik literatüre uzanan bir zincirin parçası haline geldi.
Bir sohbet botunun cevabı akıcı olabilir, tıbbi terimler içerebilir ve hatta akademik kaynaklara dayanıyormuş gibi görünebilir. Bunların hiçbiri tek başına bilginin doğru olduğunu garanti etmiyor.