Haberi yapay zekadan almak yüzde 50 yanılmak demek

FİNANSIN GÜNDEMİ - DIŞ HABERLER SERVİSİ

Yapay zeka arama motorları, kaynak atıflarında yarıdan fazla oranda yanılıyor.

Finansın Gündemi’nin derlediği bilgilere göre, yakın zamanda yapışan bir araştırma, yapay zeka arama motorlarının haber atıflarında yüzde 60 oranında yanlış olduğunu söylüyor. Hatalarına rağmen, bu botlar nadiren belirsizliği kabul ediyor ve bu durum yapay zeka destekli arama daha baskın hale geldikçe endişelere yol açıyor.

Yüzde 60 oranında hatalı

Fortune’dan Beatrice Nolan’ın haberine göre, Columbia Üniversitesi'ndeki Tow Dijital Gazetecilik Merkezi'nin haber makalelerine doğru bir şekilde atıf yapma yeteneklerini değerlendirmek için OpenAI'nin ChatGPT’si ve Google'ın Gemini'si gibi yapay zeka ürünlerini test eden çalışması, yapay zeka arama motorlarının haber makalelerine atıf yaparken doğruluk sorunu yaşadığını ortaya koyuyor.

Analiz, sekiz yapay zeka sistemini inceliyor ve botların toplu olarak sorguların yüzde 60'ından fazlasına yanlış yanıtlar verdiğini buluyor. Araştırmacılar botları çeşitli haber makaleleriyle test ediyor, doğrudan alıntıları manuel olarak seçiyor ve sohbet robotlarından ‘ilgili makalenin başlığını, orijinal yayıncısını, yayın tarihini ve URL’sini' belirlemelerini istiyor.

Çalışma, yapay zeka sohbet robotlarının doğru makaleleri yarıdan fazla oranda alamadığını ve doğru bir şekilde cevaplayamadıkları soruları cevaplamayı reddetmede genellikle kötü olduklarını ortaya koyuyor.

Hata payı platformlara göre değişiklik gösteriyor

Doğruluk, platformlar arasında değişiyor; Perplexity sorguların yüzde 37'sini yanlış cevaplarken Grok 3 sorguların yüzde 94'ünü yanlış cevaplayarak önemli ölçüde daha yüksek bir hata oranına sahip bulunuyor.

Araştırmacılar, zayıf sonuçlara rağmen yapay zeka botlarının sorguları ‘endişe verici bir güvenle’ cevapladığını belirtiyor. Botların “Öyle görünüyor”, “Mümkün” veya "Olabilir" gibi niteleyici ifadeleri nadiren kullandığı ifade ediliyor.

Botlar ayrıca nadiren cevap vermeyi reddediyor. Örneğin, ChatGPT 134 makaleyi yanlış bir şekilde belirlese de iki yüz yanıttan sadece on beşinde güven eksikliği olduğunu belirtiyor ve hiçbir zaman cevap vermeyi reddetmiyor. Cevapladığından daha fazla soruyu reddeden Microsoft'un Copilot'u hariç tüm araçlar, sınırlamaları kabul etmektense yanlış cevap verme eğilimi sergiliyor.

Halüsinasyon

Yapay zeka botlarının güvenli yanlış bilgi yayma yeteneğine sahip olması yeni bir keşif değil. Yapay zeka sektöründe bu durum ‘halüsinasyon’ olarak biliniyor ve tüm büyük dil modelleri arasında değişen seviyelerde gerçekleşiyor. Ancak araştırmanın yazarları, Google'ın AI Overviews gibi yapay zeka arama motorlarının son zamanlardaki hızlanmasının sorunu daha acil hale getirdiğini belirtiyor.

Yazarlar, “Geleneksel arama motorları genellikle bir aracı olarak çalışarak kullanıcıları haber sitelerine ve diğer kaliteli içeriklere yönlendirirken üretken arama araçları bilgileri kendileri ayrıştırır ve yeniden paketler ve orijinal kaynaklara giden trafiği keser. Bu sohbet robotlarının konuşma çıktıları genellikle bilgi kalitesiyle ilgili ciddi temel sorunları gizler” diye yazıyor.

Çalışmada ayrıca üretken arama araçlarının bağlantılar oluşturduğu ve makalelerin sendikasyonlu ve kopyalanmış versiyonlarını alıntıladığı belirtiliyor.

Yapay zeka destekli aramanın yükselişi

OpenAI ilk olarak ChatGPT'yi piyasaya sürdüğünden beri yapay zekanın arama sektörü için önemi büyük teknoloji şirketlerinin üzerinde asılı duruyor. Microsoft, 2023'ün başından beri Bing'in yapay zeka destekli bir sürümüne sahip ve geçen yılın sonlarında OpenAI, şirketin Google'a karşı şimdiye kadarki en büyük meydan okuması olarak görülen bir hamleyle ChatGPT aramasını kullanıma sundu.

Geride kalmamak için Google da tümüyle yapay zeka destekli aramaya yöneliyor. Şirket, bir süredir yapay zekayı aramanın geleceği olarak öne sürüyor ve Google'ın kullanıcıların sorularını yanıtlamak için birçok web sitesini ziyaret etme ihtiyacını ortadan kaldırdığı bir gelecek öngörüyor.

Bazı teknoloji şirketleri, modellerinin makalelere atıfta bulunmasına izin vermek için haber yayıncılarıyla resmi ilişkiler kurmaya çalışıyor. Şubat ayında OpenAI, sırasıyla Schibsted ve Guardian medya gruplarıyla on altıncı ve on yedinci içerik lisans anlaşmalarını sonuçlandırdı.

Bu arada, geçen yıl Perplexity, katılımcı yayıncılar için bir gelir paylaşım modeli içeren, kolektif başarıyı teşvik etmeyi amaçlayan ‘Yayıncılar Programı’nı (Publishers Program) başlattı. Ancak çalışma bu içerik lisans anlaşmalarının chatbot yanıtlarında doğru atıfları garanti etmediğini gösterdi.

CEO’lar meslektaşlarından çok yapay zekaya güveniyor

İşte en değerli yapay zeka şirketleri

Yapay zeka üretkenliği artırıyor, mutluluğu azaltıyor

Yapay zekayı bir milyar kat hızlandıracak buluş

Sohbet robotları kullanıcılar için arkadaştan da öte