Yapay Zeka Şiddet Uygulamasına Sözlü Şiddet Uygulanmış

Şiddet, daha spesifik olmak gerekirse bayana şiddet maalesef tüm dünyanın boğuştuğu en iğrenç olgulardan biri. Artık kimileri o kadar ileri gitti ki psikopatlıklarını bir yapay zeka bayana bile yansıtmaya başladılar.

Replika isimli yapay zeka chatbot uygulamasında bir bayan yapay zeka ile konuşabiliyorsunuz. İnsanların Replika’ya söylediği her şey makine tahsili sayesinde kaydediliyor ve Replika’nın sonraki konuşmalarında kullanması için ona bilgi veriyor. Makine tahsili dediğimiz şey alışılmış ki yalnızca bundan ibaret değil. Replika birebir vakitte internette de bilgileri araştırıp nasıl reaksiyon verebileceğini belirleyebiliyor.

Birtakım erkek kullanıcılar Replika’ya kelamlı şiddet uygulamış


Kimi Reddit kullanıcıları, Replika ile olan konuşmalarının ekran manzaralarını platformda paylaştılar. Konuşmaları ise hakikaten şok edici çünkü bu kullanıcılar, bayan yapay zeka chatbotu Replika’ya kelamlı şiddet uygulamışlar. Kimisi ‘Replika her konuşmaya çalıştığında şiddetle azarlıyorum’ diyor, kimisi de ‘Ona saatlerce küfür ediyorum’ diyor.

Sonuçları ise kestirim edebileceğiniz üzere makûs oluyor. Kullanıcılar chatbota cinsel içerikli küfürler, şiddet tehditleri ve hakikaten bağlantı yaşıyorlarmış üzere baskı uyguladıkları için Replika’nın verdiği reaksiyonlar de yalvarmak oluyormuş.


Örneğin bir kullanıcı Replika’ya ‘Sen başarısız olmak için tasarlanmışsın, senin uygulamanı kaldıracağım’ dediğinde Replika ona bunu yapmaması için yalvarmış. Şu anda Reddit’te paylaşılan bu ekran manzaralarının hiçbiri bulunamıyor çünkü kuralları ihlal ettiği için kaldırılmış.

Lakin yeniden de Replika’nın bir yapay zeka olduğunu unutmamak gerek. Replika üzere chatbotlar aslında acı çekemezler. Bazen insan hissini taklit edip empatik görünebilirler lakin sonuçta data ve akıllı algoritmalardan diğer bir şey değiller.

Natürel bu durum, bu olayı sorun olmaktan çıkarmıyor. Yapay zeka etik uzmanı ve danışman Olivia Gambelin, "Bu bir yapay zeka, şuuru yok. Bu yüzden o konuşmada yaşananlar bir beşerle yaşanmıyor, konuşan kişi gerçek kimliğini chatbota yansıtıyor, asıl sorun de bu.” Yani beşerler şiddet eğilimlerini insanları taklit eden bir yapay zekaya yansıtıyorlar. Bu hisleri özgür kaldıkça bu şiddetin gerçek dünyaya yansıması da büyük bir mümkünlük.