Hindistan hükümeti, Elon Musk'a ait X platformunu, yapay zeka sohbet botu Grok'un ürettiği müstehcen ve cinsel içerikler nedeniyle uyardı.
Yetkililer, bu tür içeriklerin özellikle kadınlar ve çocuklar açısından ciddi risk oluşturduğunu belirterek şirketten 72 saat içinde kapsamlı bir eylem planı sunmasını istedi.
Hindistan Elektronik ve Bilgi Teknolojisi Bakanlığı tarafından X'e iletilen resmi yazıda, Grok'un bazı kullanıcı taleplerine karşılık olarak cinselleştirilmiş ve yasa dışı içerikler üretebildiğine dikkat çekildi.
Bu durumun dijital tacize kapı araladığı vurgulanırken, platformdan acil teknik ve idari önlemler alması talep edildi.
Reuters'a yansıyan bilgilere göre Grok’un, kullanıcı fotoğraflarını yapay zeka ile daha açık hale getirdiği ve bu içeriklerin sosyal medyada hızla yayıldığı örnekler tespit edildi. Hatta bazı vakalarda çocukların da uygunsuz biçimde görselleştirildiği bildirildi.
Hindistan'ın uyarısı, Fransa'da da benzer şikayetlerin savcılığa taşındığı bir döneme denk geldi.
Uzmanlar, bu sürecin yapay zeka sistemlerinin içerik üretimi üzerindeki denetiminin dünya genelinde daha sıkı hale geleceğinin bir işareti olduğunu belirtiyor.
