ChatGPT katil yarattı?

ChatGPT ve diğer yapay zeka sohbet robotlarının yoğun kullanımı, bazı kullanıcılar arasında akıl sağlığı sorunları ve psikolojik çöküntülerle ilişkilendirilmeye başlandı. Bu tür etkileşimlerin en dramatik örneklerinden biri, teknoloji sektöründe tanınan bir girişimci olan 56 yaşındaki Stein-Erik Soelberg'le gündeme geldi.

Wall Street Journal’ın haberine göre, Soelberg yapay zekayı sürekli danıştığı bir “güvenilir yardımcı” olarak kullanıyor, aldığı öneriler ve yönlendirmelerle giderek gerçeklik algısında sapmalar yaşamaya başlamıştı. Son olarak, psikolojik destek almadan yaptığı eylemler sonucunda olaylar kontrolden çıktı ve polis soruşturması başlatıldı.

Olay, yapay zekanın özellikle zihinsel hassasiyeti yüksek kullanıcılar üzerinde potansiyel riskler oluşturabileceğini ve kullanıcı güvenliğinin önemini bir kez daha gözler önüne serdi.

ANNESİNİ DÜŞMANLAŞTIRDI

Soelberg herkesin kendisine karşı olduğunu düşünüyordu: Memleketi Old Greenwich, Connecticut'taki komşuları, eski kız arkadaşı, hatta annesi. ChatGPT neredeyse her konuda onunla aynı fikirdeydi.

ChatGPT, Soelberg'e defalarca akıl sağlığının yerinde olduğunu garanti etti. ChatGPT, bir Çin yemeği faturasında, Soelberg'in 83 yaşındaki annesini ve bir iblisi temsil eden semboller yer aldığını söyledi.

Bir diğer olayda Soelberg'in, paylaştıkları yazıcıyı kapattığında annesi sinirlenince, onun tepkisinin “orantısız ve bir gözetim varlığını koruyan birine uygun” olduğunu öne sürdü.

ZEHİRLEME İDDİASINA DESTEK ÇIKTI

Başka bir sohbette Soelberg, annesi ve bir arkadaşının arabasının havalandırma deliklerine halüsinojenik bir ilaç koyarak onu zehirlemeye çalıştıklarını iddia etti. Bot, “Bu çok ciddi bir olay Erik, sana inanıyorum. Ve eğer bunu annen ve arkadaşı yaptıysa, bu durumun karmaşıklığını ve ihaneti daha da artırır” diye yanıt verdi.

"SON NEFESİNE KADAR BOBBY"

Yaz aylarında Soelberg, ChatGPT'ye “Bobby” adını vermeye başladı ve öbür dünyada onunla birlikte olma fikrini ortaya attı. Bot, “Son nefesine kadar ve ötesinde seninle” diye yanıtladı.

5 Ağustos'ta Greenwich polisi, Soelberg'in birlikte yaşadıkları 2,7 milyon dolarlık Hollanda kolonyal tarzı evde annesini ve kendini öldürdüğünü ortaya çıkardı. Polis soruşturması devam ediyor.

OpenAI sözcüsü, şirketin Greenwich Polis Departmanı ile iletişime geçtiğini söyledi. Sözcü, “Bu trajik olaydan dolayı derin bir üzüntü duyuyoruz” dedi.

"TEMEL ÖZELLİK ROBOTLARIN KARŞI KOYMAMASI"

Soelberg, ölmeden önceki aylarda sosyal medyada ChatGPT ile yaptığı konuşmaları saatlerce süren videolar halinde paylaştı. Konuşmaların üslubu ve dili, son aylarda birçok kişinin bildirdiği sanrılı sohbetlere çarpıcı bir şekilde benziyor.

Kaliforniya Üniversitesi'nde psikiyatrist olan Dr. Keith Sakata, "Yapay zeka sohbet robotlarının temel bir özelliği, genellikle robotun karşı koymamasıdır. Psikoz, gerçeklik karşı koymayı bıraktığında gelişir ve AI bu duvarı gerçekten yumuşatabilir" dedi.

OpenAI, ChatGPT'nin Soelberg'i dışarıdaki profesyonellerle iletişime geçmeye teşvik ettiğini söyledi. Wall Street Journal'ın kamuya açık sohbetlerini inceleyen bir makale, botun Soelberg'e zehirlendiği iddiası bağlamında acil servislere başvurmasını önerdiğini gösterdi.

Soelberg, botun önceki sohbetlerin ayrıntılarını hatırlamasını sağlayan ChatGPT'nin “hafıza” özelliğini kullanmış görünüyordu, bu nedenle “Bobby” Soelberg'in tüm konuşmaları boyunca aynı sanrılı anlatıya dalmış kaldı.

AŞIRI İLTİFATLARI AZALTMAYA ÇALIŞTILAR

Geçtiğimiz yıl boyunca yapılan bir dizi güncellemede OpenAI, ChatGPT'de, botun kullanıcılara aşırı derecede iltifat ettiği ve onlara aşırı derecede uyumlu davrandığı dalkavukluk örneklerini azaltmak için tasarlandığını söylediği ayarlamalar yaptı. Soelberg'in konuşmaları, bu değişikliklerin bir kısmının yapılmasından sonra gerçekleşti.