Bu yazı, Science Friday röportajından yola çıkılarak yazılmıştır ve orijinali PRI.org’da yayımlanmıştır.
Mark Riedl’in ifade ettiği gibi robotlar hemen hemen tüm sosyopatik eğilimlere sahiptirler.
Atlanta’daki Georgia Teknoloji Enstitüsü’nde bir bilgisayar bilimi profesörü olan Riedl “Güvenilir olacaklar mı?” diye soruyor. “Bize zarar vermeleri mümkün mü? Sadece fiziksel şiddeti kastetmedim; aynı zamanda toplumsal harmoninin bozulan türü açısından, bizimle olan iletişimlerinin kesilmesi veya bizi hor görmeleri ihtimallaçısından da bakmak gerekir.”
Riedl’e göre bu, robotların kasten kaba olmalarından başka bir şey değil. Bu onların sadece “süper-optimize” olmaya çalışmalarıdır. Fakat robotlar günlük hayatımızın bir parçası haline gelmeye başlarlarsa, onlara yol erkan bilmeyi öğretmek mümkün olacak mı?
Riedl “Hepimizin birlikte yaşamasını sağlayan toplumsal sözleşmeleri, sosyal normları onların temsilcilerine öğretmeye çalışmayı isterdik,” diyor. “Öyküler, toplumsal değerlerin iletilmesinde harika birer yol, harika birer araçtırlar. Öyküleri yazan ve anlatan insanlar, bizim vücuda getirdiğimiz, sahip olduğumuz, dürüst vatandaşlardan görmek istediğimiz güzel değerleri aşılama konusunda yardımcı olabilirler.”
Riedl ve ekibi, robotlara çok basit öğretici öyküler anlatarak deneyler yapmaktadırlar. Halen, bir robota markete nasıl gideceğini ve reçeteli bir ilacı nasıl alacağını öğretmeye çalışıyorlar.
Riedl “Halen daha basit bir aşamadayız,” diyor. “Doğal dili işlemek çok zor. Öyküyü anlamak, ahlakın ne olduğunu, değerlerin ne olduğunu ve nasıl ortaya çıktıklarını kavrayabilmek açısından zordur. Öykü anlatma, aslında çok karmaşık bir iştir.”
Sonuçta, Riedl, öykü kitaplarının tamamını robotlara yüklemenin mümkün olacağını ummaktadır.
Riedl “Muhtemelen bir bilgisayarı, bütün bir kültür veya bütün bir toplum tarafından meydana getirilmiş olan öykülerin tümüyle beslemeyi ve mühendislik özelliklerinin tersine çevirerek ona sahip olmayı hayal ediyoruz. O yüzden bu, TV’de, filmlerde gördüğümüz, kitaplarda okuduğumuz öykülerdeki gibi şeyler açığa çıkabilir,” diyor.
Riedl, robotların bir öyküdeki doğru veya yanlışın ne olduğunu ayırt edip edemeyecekleri –bir öyküde kahramanların mı yoksa anti-kahramanların mı yanında yer alacakları- konusunda endişelenmiyor.
Riedl, “Yapay zekanın yapmakta en iyi olduğu şey, en yaygın sinyalleri dışa çekmektir,” diyor. “Yani, onun tekrar ve tekrar gördüğü şeyler, fokurdayarak ortaya çıkıp zirveye ulaşacak olan şeylerdir. Ve bunlar, kültür ve toplumun beslediği değerler olma eğilimindelerdir,” diyor.
Yazar: Elizabeth Shockman
Çeviren: Bünyamin Tan
Kaynak: Science Friday
