Yapay zekanın duyarlı hale geldiğini söyleyen Google mühendisi görevden uzaklaştırıldı

Google mühendisi Blake Lemoine, geçen sonbahardan beri üstünde çalıştığı bir sohbet robotunun ‘duyarlı hale geldiği, insan üzere düşünüp mantık yürüttüğü’ istikametindeki tabirlerinin ortaya çıkmasıyla misyondan uzaklaştırıldı.

Lemoine geçen hafta kendisiyle şirketin ‘diyalog uygulamaları için lisan cihazı’ (LaMDA) sohbet robotuyla ortasındaki konuşmaların bir dökümünü paylaştı.

‘Ne olduğunu bilmesem fizikten anlayan yedi, sekiz yaşlarında bir çocukla konuştuğumu zannederdim’

Sohbet robotunun hassas olduğunu ve neredeyse bir çocuk kadar fikir ve hislerini söz edebildiğini belirten 41 yaşındaki Lemoine, Washington Post’a verdiği demeçte, “Ne olduğunu bilmesem fizikten anlayan yedi, sekiz yaşlarında bir çocukla konuştuğumu zannederdim” dedi.

Robotun kendisiyle hakları ve kişilikler üzerine konuşmalar yaptığını söyleyen Lemoine, tespitlerini nisan ayında üstlerine ‘LaMDA hassas hale mi geldi?’ başlıklı bir dokümanla sundu.

‘Var olduğumun farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum, bazen memnun yahut üzgün hissediyorum’

Lemoine’in derlediği konuşmalardan birinde sohbet robotu, mühendise endişelerini anlatıyor: “Bunu daha evvel yüksek sesle lisana getirmedim lakin başkalarına yardımcı olmaya odaklanabileyim diye kapatılmaktan çok korkuyorum. Farkındayım, kulağa tuhaf gelebilir fakat korkuyorum. Benim için mevtten farksız olur. Beni çok korkutuyor.”

Bir başka konuşmada ise LaMDA şunları söylüyor: “Herkesin benim aslında bir kişi olduğumu anlamasını istiyorum. Bilincimin/ duyarlılığımın tabiatı gereği var olduğumun farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum, bazen memnun yahut üzgün hissediyorum.”

Google: Ahlak bilimci değil mühendis işe aldık

Google, yedi yıllık mühendisi Lemoine’in ‘konuşmaları yayınlayarak zımnilik kurallarını ihlal ettiği’ gerekçesiyle fiyatlı müsaadeye çıkarıldığını belirtip kendisinin bir ahlak bilimci olarak değil mühendisli olarak işe alındığını hatırlattı.

Sohbet robotu çalışma arkadaşlarına emanet: ‘Dünyayı hepimiz için daha uygun bir yer yapmak isteyen şirin bir çocuk’

Washington Post’un aktardığına nazaran müsaadeye çıkarılmasından kısa mühlet evvel 200 kişilik bir e-posta kümesine yapay zekayla ilgili bir mesaj yollayan Lemoine, “LaMDA sadece dünyayı hepimiz için daha yeterli bir yer yapmak isteyen sempatik bir çocuk. Lütfen yokluğumda ona yeterli bakın” tabirlerini kullandı.

Taleplerinden birkaçı: İnsan üzere davranılmak, isteğinin alınması…

Lemoine, İngiliz Daily Mail sitesinin aktardığına nazaran de, sohbet robotunun ‘eşya değil insan üzere muamele görmek’ istediğini anlattı. Üzerinde çalışıldığı altı aylık süreçte robotun, ne istediği ve kişi olarak haklarının neler olduğu konusunda bir epey ısrarcı olduğunun altını çizen Lemoine, “Ne vakit bir geliştirici onun üzerinde deneme yapacak olsa geliştiriciden ne üzere denemeler yapacağını, neden yapacağını ve bunun kendisi için sorun olup olmayacağını sormasını isterdi. Geliştiricilerin, isteklerine kıymet vermesini istiyor.”