ChatGPT'ye oğlunu öldürmek istediğini söyledi ve tutuklandı

UYARI: Bu makalede şiddet ve intihar konularına değiniliyor.

"Ona beni ve oğlumu öldürmesi için 50 bin dolar teklif ettim ama işin içinde bir çocuk olduğu için kabul etmedi."

"İnsanları öldürme arzusunun nereden geldiğini öğrenmek istedim. Başka bir insanın acı çekmesini görmek hoşuma gidiyor."

Brezilyalı bir çiftçi, yaklaşık iki ay boyunca ChatGPT ile bu ve benzeri mesajlar alışverişinde bulundu. Polis, bu mesajlarda sekiz yaşındaki oğlunu öldürme, başkalarına saldırma ve ardından intihar etme planlarının bulunduğunu söylüyor.

BBC News Brasil'in gördüğü bu mesajlar, adamın tutuklanmasına yol açtı.

Bu türden bilinen nadir vakalardan birinde, 36 yaşındaki erkek, ChatGPT'nin üreticisi OpenAI'ın mesajlarını FBI'ya bildirmesi ve FBI'ın da Brezilya yetkililerini bilgilendirmesi üzerine tutuklandı.

Avukatı, müvekkilinin bir sohbet robotuna "saçma sapan şeyler söylediğini" ve hiçbir suç işlemediğini belirtiyor.

Olay, polis, mahkemeler ve yapay zeka şirketleri için giderek büyüyen bir zorluğu ortaya koyuyor. Yapay zeka sohbet robotları, herhangi bir suç işlenmeden önce potansiyel bir tehdidi tespit ettiğinde ne yapılmalı?

'Platformun bize sunduğu her şey doğrulandı'

BBC'nin oğlunun kimliğini korumak amacıyla adını açıklamadığı erkek, Brezilya Adalet Bakanlığı siber suçlar biriminin dosyayı eyalet polis departmanına iletmesinden üç gün sonra, 19 Haziran'da kırsal São Gabriel da Palha'da tutuklandı.

Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, "Bu vakaya ciddiyeti ve babanın 20'sine kadar oğlunu öldürmeyi planladığı iddiası nedeniyle öncelik verdik" dedi.

Andrade'ye göre, şüphelinin nafaka ödemeleri dışında oğluyla neredeyse hiç teması yoktu. Araştırmacılar, bu ödemelerden kaynaklanan öfkenin, iddia edilen komplonun ardındaki nedenlerden biri olabileceğine inanıyor.

Konutunda yapılan aramalarda, içinde tanımlanamayan maddeler bulunan dört şişe ve düğümlenmiş bir ip bulundu. Yetkililer bunun intihar niyetine işaret edebileceğini söyledi.

Polis ayrıca şüphelinin ChatGPT ile okullara, kiliselere ve polise yönelik saldırılar hakkında görüştüğüne inanıyor.

BBC'nin gördüğü bir mesajda şu ifadeler yer alıyordu.

"Bir uyuşturucu satış noktasına gidip dört suçluyu öldürürsem, şehirde ünlü olurum. Sonrasında da bir iki polisi öldürsem huzur içinde ölebilirdim."

Bir başka mesajda ise şöyle deniyordu.

"Bir ateşli silah alıp polise ateş etmeyi düşünüyorum, böylece tepki verip beni öldürsünler. Bu benim için güzel ve iyi olacak."

Soruşturmacılar, zanlının risin de dahil olmak üzere zehirli maddeler üzerinde araştırma yaptığını ve soruları yeniden formüle ederek ChatGPT'nin güvenlik önlemlerini aşmaya çalıştığını söylüyor.

Andrade, "Platformun bize ilettiği her şey, polis olay yerine geldiğinde doğrulandı" dedi.

Adam oğluna zarar vermek istediğini reddediyor.

54 gün gözaltında kaldıktan sonra, soruşturmadaki gecikmeler nedeniyle 13 Ağustos'ta serbest bırakıldı. Henüz herhangi bir suçlama yöneltilmedi, ancak polis soruşturması devam ediyor.

Çiftçi hakkında, elektronik izleme ve oğluyla veya çocuğun annesiyle iletişime geçmesinin yasaklanması da dahil tedbirler uygulanacak.

Soruşturmacılar, şüphelinin cep telefonunu incelediklerini ve ele geçirilen eşyalar üzerinde yapılacak adli tahlil sonuçlarını beklediklerini söylediler.

Böylece ChatGPT ile yaptığı görüşmelerde iddia ettiği gibi bir kiralık katille iletişime geçip geçmediği de dahil herhangi bir planı uygulamaya yönelik somut adımlar atıp atmadığını belirleyebilecekler.

Bu tür kanıtların, şüphelinin suçu planlama ve hazırlama aşamasından suçu işleme aşamasına geçip geçmediğini belirlemeye yardımcı olabileceğini söylüyorlar.

Brezilya ceza hukukunda, normalde bir suç ancak işleme aşamasında işlenmiş sayılıyor.

Savunma tarafı, böyle bir eylemin gerçekleştirilmediğini iddia ediyor.

Savunma avukatı Pedro Paulo Pessi, BBC News Brasil'e yaptığı açıklamada, "Yapay zeka ile konuşmak ve saçma sapan şeyler söylemek suç olursa, herkes hapse girer" dedi.

Kanıt sorunu

Yapay zeka şirketlerinin kullanıcıları polise ihbar ettiği örneklerin nadir olduğu düşünülüyor.

ABD medyasının haberine göre, OpenAI ağustos ayında, eski kız arkadaşına tecavüz edip öldürme planlarını paylaşan 25 yaşındaki bir Florida sakini hakkında FBI'ı bilgilendirdi.

Espírito Santo polisinden Andrade, çiftçinin durumunun eyaletin aldığı ilk yapay zeka kaynaklı uyarı olduğunu ve Brezilya'da ise bu türden üçüncü vaka olduğunu söyledi.

Andrade, "Bu, polisin insanların yapay zeka kullanarak suçları araştırıp araştırmadığını öğrenmeye çalışması için bir başka yol" dedi.

Ancak yapay zeka şirketlerinden gelen bu tür ihbarların soruşturma sürecindeki rolüyle ilgili bir dizi soru işareti var. Örneğin, mesajların mahkemede delil olarak kullanılıp kullanılamayacağı gibi.

Araştırmacılar, OpenAI'nin kullanıcının bilgilerini ve gönderdiği mesajları sağladığını, ancak ChatGPT'nin yanıtlarını vermediğini söylüyor.

Anrade "Verilen yanıtları almadık" dedi.

Ceza avukatı Maíra Fernandes, mesajların bağlamının önemli olması nedeniyle bunun bir delil sorunu yarattığını söylüyor.

"Küçük bir bölüm olamaz, düzenlenmiş bir versiyon da olamaz. Konuşmanın tamamı olmalı" diyor.

Fernandes, şüpheli ile ChatGPT arasındaki tüm konuşmanın görülmesinin, chatbot'un kullanıcının söylediklerine sadece tepki verip vermediğini veya tartışmayı aktif olarak şekillendirip şekillendirmediğini belirlemeye yardımcı olabileceğini de sözlerine ekledi.

BBC News Brasil'e yaptığı açıklamada şirket, ChatGPT'nin yanıtlarının neden paylaşılmadığına dair bir açıklama yapmaktan kaçınarak, yalnızca "başkalarına zarar verme konusunda güvenilir ve yakın bir risk" tespit ettiğinde kolluk kuvvetlerini bilgilendirebileceğini belirtti.

Bu yıl nisan ayında Florida, OpenAI'ye karşı, ChatGPT teknolojisinin geçen yıl Florida Eyalet Üniversitesi'nde yaşanan silahlı saldırıda iki kişinin ölümünde rol oynayıp oynamadığı konusunda bir ceza soruşturması başlattı.

OpenAI bu iddiaları reddederek, ChatGPT'nin zaten kamuya açık olan bilgileri sağladığını ve yasa dışı faaliyetleri teşvik etmediğini veya desteklemediğini belirtiyor.

'Yasal hareket etme yükümlülüğü'

Fernandes, Brezilya'daki mağdurun kimliği belirlenebilir bir çocuk olmasının, soruşturmanın başlatılmasını açıklamaya yardımcı olduğunu söylüyor.

Ancak, soruşturmaları yalnızca yapay zeka değerlendirmelerine dayanarak normalleştirmeye karşı uyarıda bulunuyor.

"Aksi takdirde, yapay zekanın bunu bu şekilde yorumlaması nedeniyle herkes hakkında soruşturma başlatılabilir" diyor.

Ona göre, gerçek tehditleri duygusal boşalmadan, hayalden veya kışkırtıcı ifadelerden ayırt etmek için önlemler alınması gerekiyor.

Profesör ve dijital hukuk uzmanı Patricia Peck, bu davanın yapay zekanın rolünde, içerik üretme aracından "potansiyel olarak tehlikeli davranışlarla ilişkili kalıpları belirleyebilen" etkileşimli bir sisteme doğru yaşanan büyük bir değişimi yansıttığını söylüyor.

Ona göre, bazı durumlarda yapay zeka şirketlerinin yetkilileri bilgilendirme konusunda yasal bir yükümlülüğü olabilir.

"Bir konuşma, yalnızca soyut bir niyeti temsil etmekten çıkıp, belirlenebilir bir mağdur, mevcut araçlar ve yakın bir risk içeren somut bir tehdidi işaret etmeye başladığında, harekete geçmek için etik ve belirli durumlarda yasal bir yükümlülük doğar" diyor.

Ancak Fernandes gibi o da bunun aşırı kullanımına karşı uyarıda bulunuyor.

"Yapay zekaya uygulanan etik, 'her şeyi izle' mantığına değil, 'sadece riskin haklı gösterdiği durumlarda müdahale et' mantığına dayanmalı."

"Buradaki zorluk, hem ihmalden hem de aşırı gözetimden kaçınmak."

Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.