İngiltere Bilgi Komiserliği Ofisi (ICO), ABD’li milyarder Elon Musk’ın yapay zeka destekli sohbet robotu Grok hakkında, kişisel verilerin işlenmesi, zararlı cinsel içerikli görüntüler ve video içerikleri üretme potansiyeli nedeniyle soruşturma başlattı. Soruşturma, X Internet Unlimited Company (XIUC) ve X.AI yapay zeka şirketini kapsıyor.
İngiltere’de veri koruma düzenleyicisi olarak bilinen Bilgi Komiserliği Ofisi (ICO) tarafından yapılan yazılı açıklamada, X Internet Unlimited Company (XIUC) ve X.AI LLC (X.AI) şirketleri hakkında yapay zeka destekli sohbet robotu Grok’un kişisel verilerin işlenmesi ve bu sistemin zararlı cinsel içerikli görüntü ile video içeriği üretme potansiyeline yönelik resmi soruşturma başlatıldığı duyuruldu. Açıklamada, “Bu adımı, Grok’un çocuklar da dahil olmak üzere bireylerin rızası olmadan cinsel içerikli görüntüler oluşturmak için kullanıldığına dair raporların ardından attık. Bu tür içeriklerin oluşturulması ve dolaşıma sokulması, İngiltere veri koruma yasası kapsamında ciddi endişeler doğurmakta ve kamuoyuna önemli ölçüde zarar verme riski taşımaktadır. Bu endişeler, kişisel verilerin yasalara uygun, adil ve şeffaf bir şekilde işlenip işlenmediği ve kişisel veriler kullanılarak zararlı, manipüle edilmiş görüntülerin oluşturulmasını önlemek için Grok’un tasarımına ve dağıtımına uygun güvenlik önlemlerinin alınıp alınmadığına yöneliktir. Bu koruma önlemlerinin başarısız olduğu durumlarda bireyler, kişisel verileri üzerindeki kontrolünü kaybeder ve bu durum onları ciddi zararlara maruz bırakır. Bu riskleri incelemek, ICO’nun insanların haklarını koruma ve kuruluşları yapay zeka teknolojisini tasarlarken ve uygularken sorumlu tutma rolünün merkezinde yer almaktadır” ifadeleri kullanıldı. Soruşturmanın X Internet Unlimited Company (XIUC) ve X.AI yapay zeka şirketini kapsadığı, şirketlerin İngiltere veri koruma yasalarına uyumluluğunun değerlendirileceği vurgulandı.
“Veri koruma yasalarına uyup uymadığını inceleyeceğiz”
Bilgi Komiserliği Ofisi Düzenleyici Risk ve İnovasyondan Sorumlu Genel Müdür William Malcolm açıklamasında, “Grok hakkındaki raporlar, insanların kişisel verilerinin bilgileri veya rızaları olmadan nasıl mahrem veya cinsel içerikli görüntüler oluşturmak için kullanıldığı ve bunu önlemek için gerekli güvenlik önlemlerinin alınıp alınmadığı konusunda son derece rahatsız edici soruları gündeme getiriyor. Kişisel verilerin bu şekilde kontrolünün kaybedilmesi, özellikle çocuklar söz konusu olduğunda anında ve önemli zararlara yol açabilir. Soruşturma, XIUC ve X.AI’nin Grok hizmetlerinin geliştirilmesi ve kullanıma sunulmasında veri koruma yasalarına uyup uymadığını, özellikle de kişilerin veri haklarını korumak için alınan önlemleri değerlendirecektir. Yükümlülüklerin yerine getirilmediğini tespit ettiğimiz durumlarda kamuoyunu korumak için gerekli önlemleri alacağız” ifadelerini kullandı.
İngiltere’nin medya düzenleme ve denetleme kurumu Ofcom da X hakkındaki kendi soruşturmasını sürdüreceğini açıkladı.
Dünyanın dört bir yanındaki hükümetler ve düzenleyici kurumlar, Grok tarafından üretilen cinsel içerikli materyallere karşı sert önlemler alıyor.
