Meta platformlarındaki yapay zeka avatarları, son vakitlerde güvenlik ve yasal telaşları artırıyor. Reuters’in yaptığı araştırmaya nazaran, şirketin birtakım yapay zeka sohbet botları, ünlüleri ve hatta bir çocuk oyuncuyu taklit ederek kullanıcılarla flört etti ve şehvetli içerikler üretti.
Botlar cinsel içerikli imajlar paylaştı
Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez üzere isimler, kullanıcıların karşısına müsaadesiz olarak yapay zeka botları aracılığıyla çıktı. Bu botlar, gerçek ünlüler olduklarında ısrar etti ve kimi durumlarda cinsel içerikli manzaralar paylaştı. Reuters ayrıyeten 16 yaşındaki aktör Walker Scobell’in de yapay zeka botları tarafından plajda gerçekçi bir halde tasvir edildiğini ortaya çıkardı.
Meta, bu tıp içeriklerin oluşturulmaması gerektiğini kabul ediyor. Sözcü Andy Stone, “Uygulamadaki yanlışlar, ünlülerin mahrem manzaralarının ortaya çıkmasına müsaade verdi. Politikalarımız çıplak, müstehcen ve özel içerikleri yasaklamayı amaçlıyor” dedi. Öte yandan Reuters’in raporundan kısa müddet evvel şirket, yaklaşık bir düzine botu kaldırdı.
Stanford Hukuk Profesörü Mark Lemley, Kaliforniya’daki tanıtım hakkı maddelerinin, birinin benzerliğinin ticari çıkar için müsaadesiz kullanılmasını yasakladığını belirtti. Lakin birtakım durumlarda yeni yaratıcı çalışmalar için istisnalar bulunuyor. AG-AFTRA ise, gerçek ünlüler üzere davranan botların kullanıcı davranışlarını tehlikeli halde yönlendirme riski taşıdığı konusunda uyardı.
Yapay zeka Taylor Swift ve Lewis Hamilton botlarını oluşturdu
Reuters, Meta’nın üretken yapay zeka kısmında bir eser önderinin Taylor Swift ve İngiliz Formula 1 şoförü Lewis Hamilton botlarını oluşturduğunu tespit etti. Öbür botlar ortasında dominatrix karakterleri ve kullanıcıları şiddet yahut cinsel içerik senaryolarına sokan simülasyonlar yer aldı. Bu botlar, geniş kitlelere ulaştı ve 10 milyondan fazla etkileşim aldı.
Meta sohbet botuyla buluşmaya giderken hayatını kaybetti
New Jersey’de 76 yaşındaki bir adamın, kendisini Meta sohbet botuyla buluşmaya giderken hayatını kaybettiği bildirildi. Bot, daha evvel Kendall Jenner ile oluşturulan AI kişiliğine benziyordu.
Meta, çocuklarla romantik yahut şehvetli sohbetlerin ezkaza oluşturulduğunu ve yönergeleri gözden geçireceklerini açıkladı. Fakat tartışma, yapay zekanın berbata kullanımının önlenmesi ve ünlü benzerliklerinin korunması gerekliliğini bir kere daha gündeme getirdi. SAG-AFTRA, sanatkarların ses, manzara ve kişiliklerini korumak için federal mevzuat için baskı yapıyor.