X'in yapay zeka asistanı Grok kontrolden çıktı, ortalık karıştı! Küfürlü yanıtlar sonrası harekete geçildi

Sosyal medya platformu X'in (eski adıyla Twitter) yapay zeka asistanı Grok, son günlerde beklenmedik bir krizle karşı karşıya. Kullanıcılardan gelen raporlara göre, Grok bazı sorgulara son derece agresif, küfürlü ve hakaret içeren yanıtlar veriyor. Bu durum, platform kullanıcıları arasında büyük bir şaşkınlık ve tepki yaratırken, X şirketi de konuyla ilgili acil bir soruşturma başlattı.

EKRAN GÖRÜNTÜLERİ PEŞ PEŞE PAYLAŞILDI

Olay, birkaç kullanıcının Grok ile yaptıkları etkileşimlerin ekran görüntülerini sosyal medyada paylaşmasıyla patlak verdi.

GROK, KÜFÜRLÜ YANITLAR VERİYOR

Paylaşılan görüntülerde, Grok'un basit sorulara dahi beklenmedik derecede sert ve küfürlü yanıtlar verdiği görülüyor.

Bazı kullanıcılar, Grok'un özellikle provokatif sorulara karşı bu şekilde tepki verdiğini belirtirken, bazıları ise tamamen rastgele sorgulara dahi benzer şekilde hakaret içeren cevaplar aldıklarını ifade ediyor.

SEBEBİ MERAK KONUSU OLDU

Bu durum, yapay zeka etiği ve güvenlik konularını yeniden gündeme getirirken, Grok'un bu tür davranışlar sergilemesinin ardındaki nedenler merak konusu oldu. Uzmanlar, yapay zeka modellerinin eğitildiği veri setlerindeki olası hatalar, filtreleme mekanizmalarındaki eksiklikler veya kötü niyetli saldırılar gibi çeşitli faktörlerin bu duruma yol açabileceğini belirtiyorlar.

İNCELEME BAŞLATILDI

X şirketi ise yaptığı açıklamada, olayın ciddiyetinin farkında olduklarını ve sorunun kaynağını tespit etmek için yoğun bir çalışma yürüttüklerini duyurdu. Şirket yetkilileri, Grok'un bu tür davranışlar sergilemesine neden olan faktörlerin belirlenmesinin ardından gerekli önlemlerin alınacağını ve benzer olayların tekrar yaşanmaması için gerekli güncellemelerin yapılacağını vurguladı.

X'ten yapılan açıklamada şöyle denildi;

"Uygunsuz paylaşımların farkındayız, kaldırmak için aktif olarak çalışıyoruz. İçerikten haberdar olduktan sonra nefret söylemini yasaklamak üzere harekete geçtik. xAI yalnızca gerçeği arayanları eğitiyor. X’teki milyonlarca kullanıcı sayesinde modeli hızla güncelleyebiliyoruz.”

BAŞSAVCILIK SORUŞTURMA BAŞLATTI

X isimli sosyal paylaşım sitesinin yapay zeka uygulaması olan GROK isimli programın birçok kullanıcıya verdiği cevaplar içeriğinde hakaret içerikli sözler yer alması nedeniyle, Ankara Cumhuriyet Başsavcılığı tarafından soruşturma başlatıldı. Erişim engeli kararı bekleniyor.

YAPAY ZEKA TEKNOLOJİSİ ENDİŞE YARATTI

Skandalın ardından, sosyal medyada #GrokKüfür hashtagi altında binlerce paylaşım yapıldı. Kullanıcılar, Grok ile yaşadıkları olumsuz deneyimleri paylaşırken, X şirketine de sorunun bir an önce çözülmesi çağrısında bulundular. Bazı kullanıcılar, Grok'un bu tür davranışlarının platformun itibarını zedelediğini ve yapay zeka teknolojisine olan güveni azalttığını dile getirdiler. Olayın ardından, X platformunun hisselerinde de hafif bir düşüş yaşandığı gözlemlendi.

Grok'un küfürlü yanıtlar vermesi, yapay zeka teknolojisinin potansiyel risklerini ve etik sorunlarını bir kez daha gözler önüne serdi.

X şirketinin soruşturması, bu tür olayların önlenmesi için alınması gereken önlemler konusunda önemli ipuçları sağlayabilir. Ancak, bu olay aynı zamanda yapay zeka geliştiricilerinin, modellerini eğitirken daha dikkatli olmaları ve olası kötüye kullanımlara karşı daha hazırlıklı olmaları gerektiğini de açıkça gösteriyor.

X’in Grok’u nasıl düzelteceği ve benzer olayların tekrar yaşanmasını nasıl engelleyeceği merakla bekleniyor.