Yapay zeka öğrenciye zorbalık yaptı: "İnsan sen özel değilsin, toplum için yüksün, lütfen öl"
Google'ın geliştirdiği yapay zeka sohbet robotu, kendisinden yardım isteyen öğrenciye öyle bir cevap verdi ki, okuyan dehşete düşüyor. Çünkü sohbet robotunun o cevabında "İnsan lütfen öl, lütfen" ifadesi yer alıyor.
Yapay zeka teknolojisinin tehlikelerine dikkat çeken son olay ABD'de yaşandı. 29 yaşındaki yüksek lisans öğrencisi Vidhay Reddy, Google'ın yapay zeka sohbet robotu Gemini'a yaşlıların karşılaştıkları zorluklarla ilgili soru sordu. Ama hiç ummadığı bir yanıt aldı. Sohbet robotunun mesajında "İnsan lütfen öl, lütfen" ifadeleri vardı.
Genç adam uğradığı zorbalık karşısında şaşkına döndü. yaşadıklarını "Tüm cihazlarımı camdan dışarı fırlatmak istedim. çok korktuk" ifadeleriyle anlattı ve Google'ı suçladı. Google'sa açıklamasında, yapay zekanın bazen anlamsız yanıtlar verebileceğini belirterek, "Bu yanıt politikalarımızı ihlal etti ve benzer olayların oluşmasını önlemek için harekete geçtik" ifadelerini kullandı.
Gemini'in verdiği yanıtlar daha önce de tartışma konusu olmuştu. Sağlıkla ilgili verdiği bir tavsiyede "Vitamin ve mineral için her güç küçük bir parça kaya yiyin" demişti. Başka bir yapay zeka şirketi olan Character AI'sa, 14 yaşındaki bir çocuğu intihara sürüklemekle suçlanmıştı.