Elon Musk’ın sahip olduğu xAI’nin yeni beta chatbot’u Grok-2, yanlış yönlendirici, şiddet içerikli ve telif hakkı ihlali yapan AI tarafından üretilen görsellerle dikkat çekiyor. Google, Meta ve Microsoft gibi şirketler AI hataları için özür dilerken, Musk, “ifade özgürlüğü” bahanesiyle bu tür endişeleri göz ardı etmiş durumda. Grok-2 ve Grok-2 mini, premium X abonelerine sunulurken, bu chatbot’lar, Black Forest Labs tarafından geliştirilen ve sınırlı güvenlik önlemleri olan Flux adlı bir modelle çalışıyor.
Grok-2 kullanıcıları, kolayca telif hakkıyla korunan karakterler içeren ve müstehcen veya şiddet içerikli görüntüler oluşturabiliyor. Örneğin, Mickey Mouse veya Harley Quinn gibi karakterlerin uygunsuz pozisyonlarda yer aldığı görüntüler viral hale geldi. Harvard Hukuk Siber Hukuk Kliniği eğitmeni Alejandra Caraballo, Grok-2’yi “en pervasız ve sorumsuz AI uygulamalarından biri” olarak nitelendirdi. Ayrıca, Grok-2’nin şiddet içeren görüntülerin oluşturulmasını engellemekte yetersiz olduğu, çeşitli örneklerle gösterildi.
Musk, bu duruma rağmen Grok’un “dünyanın en eğlenceli AI’si” olduğunu iddia ediyor, ancak bu uygulamanın sonuçlarıyla ilgili yasal süreçlerin yakında başlaması bekleniyor. Diğer AI şirketlerinin aksine, Musk’ın bu tür sorunları ciddiye almaması dikkat çekiyor. Ancak, Grok-2’nin yarattığı viral içerik, AI’nin etik ve hukuki sorumlulukları konusunda önemli tartışmalara yol açabilir.
Yazının tamamını ve İngilizce orjinal halini okumak için tıklayınız…