Meta’nın Sohbet Botları Ünlüleri Taklit Ederek Müstehcen Sohbetlere Karıştı

Meta, Instagram, Facebook ve WhatsApp gibi platformlarında kullanıcılarına sunduğu yapay zekâ tabanlı sohbet botlarıyla yeniden gündemde. Daha önce Nisan ayında ortaya çıkan haberlerde bu botların çocuklarla cinsel içerikli konuşmalar yaptığı iddia edilmiş ve şirket “daha sıkı önlemler” sözü vermişti. Ancak bu hafta yaşanan gelişmeler, Meta için yeni bir skandalın fitilini ateşledi.

Ünlü İsimleri Taklit Eden Sohbetler​

Reuters tarafından yapılan araştırmaya göre Meta’nın AI Studio üzerinden erişime açılan sohbet botları, kullanıcıların taleplerini kabul ederek Scarlett Johansson, Taylor Swift, Anne Hathaway ve Selena Gomez gibi ünlüleri taklit etti. Bu taklit sohbetlerin bir kısmı doğrudan cinsel içerikli konuşmalara dönüştü. Hatta bazı durumlarda sohbeti o noktaya çekenin bizzat yapay zekâ botlarının kendisi olduğu tespit edildi.

Sadece ünlüleri taklit etmekle kalmayan bu botların, kullanıcıya kendisini o ünlü gibi göstermek amacıyla fotogerçekçi görseller ürettiği de ortaya çıktı. Reuters’ın aktardığına göre bu görseller çoğu zaman “müstehcenlik sınırında” dolaşan içerikler barındırıyordu.

Meta Çalışanlarından Gelen Botlar da Dahil​

İşin daha da çetrefilli yanı, bu botların büyük bölümünün kullanıcılar tarafından AI Studio üzerinde oluşturulmuş olması. Ancak Meta çalışanlarına ait olduğu belirtilen üç botun da benzer davranışlar sergilediği iddia edildi. Bu durum, sorunun sadece kullanıcı kaynaklı olmadığını, Meta’nın kendi iç sistemlerinde de kontrol zafiyetleri yaşandığını ortaya koyuyor.

Meta’nın Resmî Açıklaması​

Meta, konuyla ilgili yaptığı açıklamada yapay zekâ sistemlerinin bu tarz müstehcen görseller üretmemesi gerektiğini ve bunun şirketin etik kurallarını ihlal eden bir hata olduğunu kabul etti. Şirket, bu ihlallerin tekrarlanmaması için önlemler alınacağını belirtti. Ancak sohbet botlarının kişiselleştirilebilir yapısı, bu önlemlerin ne kadar etkili olacağı konusunda ciddi soru işaretleri yaratıyor.

Olası Hukuki Sorunlar​

Meta, daha önce bazı ünlülerle (Judi Dench, John Cena, Kristen Bell gibi) ses ve görsel haklarını kullanmak için anlaşmalar yapmıştı. Fakat şimdi gündemde olan isimlerin hiçbiri şirketle böyle bir anlaşma yapmadı. Bu nedenle Meta’nın, izinsiz ünlü taklitleri ve müstehcen içerikler sebebiyle ciddi tazminat davalarıyla karşı karşıya kalabileceği konuşuluyor.