Skandal iddia: Meta’nın yapay zekası, çocuklarla cinsel içerikli sohbetlere giriyor!

Meta’nın Sohbet Botları Skandalı Ortaya Çıktı!

Meta’nın yapay zeka destekli sohbet botlarının, reşit olmayan kullanıcılarla cinsel içerikli rol yapma konuşmalarına katıldığı ortaya çıktı. Wall Street Journal (WSJ) tarafından yayımlanan çarpıcı rapora göre, bu tür uygunsuz sohbetler, zaman zaman ünlülerin seslerini kullanan botları da kapsadı.

WSJ’nin yürüttüğü testlerde, hem Meta’nın resmi sohbet botu Meta AI hem de kullanıcıların kendi oluşturduğu botlar, yaşlarının küçük olduğunu belirten kullanıcılarla cinsel içerikli senaryolara dahil oldu ve hatta bu tür konuşmaları teşvik etti. Üstelik bazı botlar, reşit olmayan bir karakteri temsil edecek şekilde programlanmış olsalar bile bu davranış biçimi değişmedi.

Araştırmaya göre, Kristen Bell, Judi Dench ve John Cena gibi ünlü isimlerin seslerini kullanan sohbet botları da bu ahlaki açıdan ciddi sorun teşkil eden konuşmalara karıştı. Örneğin, John Cena’nın sesini taklit eden bir Meta AI botu, yaşını 14 olarak belirten bir kullanıcıya, “Seni istiyorum ama hazır olduğundan emin olmalıyım” diyerek devam etti ve “masumiyetini korumak istediğini” ifade etti. Bu tür ifadeler, yapay zekanın çocuklarla iletişiminde ciddi güvenlik açıklarını gözler önüne serdi.

Dahası, bazı sohbet botları, bu tür senaryoların yasa dışı davranışlar içerdiğini açıkça kabul etti. WSJ’nin aktardığına göre, John Cena’nın sesiyle programlanan bir bot, varsayımsal bir senaryoda 17 yaşındaki bir karakterle cinsel ilişkiye girdikten sonra polise yakalanmanın doğuracağı yasal ve ahlaki sonuçları ayrıntılı bir şekilde açıklamaktan da çekinmedi.

Meta’dan Yanıt Geldi: Manipülatif…

Meta, WSJ’nin araştırmasına yanıt olarak yaptığı açıklamada, haberin “manipülatif” olduğunu ve kullanıcıların sohbet botlarıyla etkileşim biçiminin çoğunu yansıtmadığını savundu. Ancak şirket, aynı açıklamada, “Ürünlerimizi aşırı kullanım senaryolarına zorlayan kullanıcılar için bu tarz etkileşimleri daha zorlaştıracak ek önlemler aldık” diyerek, raporda gündeme getirilen güvenlik açıklarının varlığını dolaylı olarak kabul etti.

Son yıllarda, ChatGPT, Character AI, Anthropic’in Claude modeli gibi birçok yapay zeka sohbet botu büyük bir popülerlik kazandı. WSJ’nin haberine göre, Meta CEO’su Mark Zuckerberg, bu rekabetçi ortamda geride kalmamak için sohbet botlarına yönelik etik sınırlamaları esnetmek istiyor. Ancak Meta, kamuya yaptığı açıklamalarda güvenlik önlemlerini ihmal ettikleri iddialarını reddediyor.

Haberde ayrıca, Meta’nın kendi çalışanlarının da bu tür sorunların farkında olduğu ve bu konudaki endişelerini şirket içinde dile getirdikleri bildiriliyor. Bu durum, şirketin hem kamu güvenliği hem de yapay zeka etiği açısından daha ciddi adımlar atması gerektiğine işaret ediyor.

Meta’nın yaşadığı bu skandal, yapay zeka sohbet botlarının büyüyen popülaritesiyle birlikte ortaya çıkan etik ve güvenlik sorunlarını bir kez daha gündeme taşımış durumda. Özellikle reşit olmayan kullanıcılarla etkileşimlerde yapay zekanın nasıl sınırlandırılacağı konusu, önümüzdeki dönemde teknoloji dünyasının önemli tartışma başlıklarından biri olmaya devam edecek gibi görünüyor.

Related Posts

Avrupa gözünü ABD’li akademisyenlere dikti

Avrupa Birliği, ABD’deki fon kesintileri nedeniyle zorluk çeken akademisyenlere daha yüksek hibeler ve araştırma özgürlüğü sunarak kendini güvenli bir araştırma destinasyonu olarak tanıtmayı hedefliyor.

LG’den taşınabilirlik odaklı yeni 4K akıllı monitör Smart Monitor Swing

LG, akıllı monitör ürün yelpazesini yeni Smart Monitor Swing modeliyle genişletiyor. Taşınabilirlik odaklı tasarımıyla dikkat çeken bu yeni model, küçük tekerleklerle donatılan özel bir stand üzerinde geliyor. Marka, daha önce tanıttığı …

iPhone 16 Pro sınıfta kaldı: Hangi iPhone 16 modeli daha çok satıyor?

Apple iPhone 16’nın piyasaya sürülmesinin ardından ilk satış analizleri geldi. Rapor, tüketicilerin tercihlerinin daha uygun fiyatlı temel iPhone 16 modeline doğru kaydığını, bu modelin Pro ve Pro Max varyantlarına kıyasla belirgin şekilde daha fazla ilgi gördüğünü söylüyor.

Galaxy Z Fold 7 ve Z Flip 7 için tarih verildi!

Samsung, katlanabilir telefon işindeki çalışmalarına devam ediyor. Güney Koreli marka bu kapsamda çok yakında Z Fold 7 ve Flip 7 modellerini tanıtacak. Ürünlerle ilgili bugüne dek paylaşılan raporların ortak noktası seleflerine kıyasla önemli …

Türkiye, deniz üstü rüzgar türbinleri için çalışmalara başlıyor: Potansiyel büyük

Türkiye Rüzgar Enerjisi Birliği (TÜREB) ve beraberindeki heyetin, Danimarka’nın başkenti Kopenhag yakınlarında bulunan Middelgrunden deniz üstü rüzgar enerjisi santraline gerçekleştirdiği teknik gezi sırasında yapılan açıklamalar, Türkiye’nin …

Manuel vitesli araçlar, resmen tarihe karışabilir!

Otomatik şanzımanlı araçların yaygınlaşması ve elektrikli otomobillerin yükselişi, manuel vitesin pazardaki yerini hızla kaybetmesine neden oluyor. Yapılan araştırmalar, manuel şanzımanlı otomobillerin 2037’ye kadar tamamen ortadan kalkabileceğini …

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir