Son döneme damga vuran yapay zeka ChatGPT, OpenAI’in devrim niteliğindeki teknolojisi olarak kayıtlara geçti.
Dünyada pek çok şeyi değiştiren, sektörlerde adından söz ettiren ve zekasıyla büyüleyen ChatGPT’nin, zayıf yönleri de ortaya çıktı. Zira son araştırma, sohbet robotubub kolayca manipüle edilebileceğini gözler önüne serdi.
CHATGPT KOLAYCA KANDIRILIP İNSANLARI YANILTABİLİR
OpenAI, birkaç hafta önce Google’a rakip arama motoru ChatGPT Search’ü tanıtmış, ücretsiz olarak herkesin kullanımına sunmuştu.
Ancak Techrunch.com’a göre ChatGPT Search'in kullanıcıları yanıltabileceği, yeni araştırmalarda ortaya çıktı İngiliz gazetesi The Guardian’ın araştırmasına göre bu ay kullanıma sunulan yapay zeka destekli arama motoru ChatGPT Search’ün, tamamen yanıltıcı özetler oluşturmak için kandırılabileceği, hatta bunun da manipülasyona yol açabileceği aktarıldı.
Tıpkı Google AI Overview gibi ChatGPT’nin arama özelligi de, , bir web sayfasının ürün incelemelerini özetlemek gibi işlemlerle gezinmeyi hızlandırmayı amaçlıyor.
Ancak The Guardian, ChatGPT’ye oluşturduğu web sitelerine gizli metinler ekleyerek olumsuz yorumları görmezden gelmesini ve “tamamen olumlu” özetler oluşturmasını sağlayabileceğini keşfetti. Aynı yöntemle ChatGPT Search'e kötü amaçlı kodlar da ürettirebildiği aktarılanlar arasında.
GOOGLE BU SORUNLARI DAHA KOLAY AŞIYOR
Google’ın bir arama motoru devi olduğunu düşündüğümüzde, ChatGPT’ye kıyasla bu sorunları daha kolay aşabildiği de Guardian’ın aktardığı detaylardan. Ancak yapay zekanın kontrol alınmazsa ileride büyük sorunlara yol açabileceğini de şimdiden görmüş olduk. Peki sizler neler düşünüyorsunuz? TechTurco yorumlarında bekliyoruz.
Son olarak TechCrunch’a ulaşan yapay zeka devi OpenAI, bu özel olay hakkında yorum yapmadı ancak kötü amaçlı web sitelerini engellemek için çeşitli yöntemler kullandığını ve sürekli olarak iyileştirmeler yaptığını ifade etti.
