Google'ın LaMDA AI'sı Nedir ve Bir Google Mühendisi Neden Duyarlı Olduğuna İnanır?
Yayınlanan: 2022-06-29
Google'da kıdemli bir mühendis, şirketin LaMDA AI'sının duyarlı hale geldiğini iddia etti. Bunu endişe verici veya heyecan verici bulsanız da, bu çok cesur bir iddiadır ve belki de tamamen doğru olsa bile kanıtlanması zor bir iddiadır.
LaMDA Nedir?
LaMDA, Language Model for Dialog Application'ın kısaltmasıdır. Başka bir deyişle, doğal diyalog oluşturmak için özel olarak tasarlanmış bir makine öğrenimi dil modelidir. Makine öğrenimi yöntemleri, bilgisayarların verilerdeki kalıpları ve ilişkileri keşfetmesine olanak tanır. Örneğin, GPT-3 (başka bir son teknoloji sistem) gibi bir makine öğrenimi algoritmasını Shakespeare'in tüm eserleri üzerinde "eğitebilir" ve ardından onun Shakespeare gibi okunan yeni orijinal metinler oluşturmasını sağlayabilirsiniz.
Sundar Pichai'nin (Google CEO'su) Yahoo Finance ile yaptığı bir röportajda açıkladığı gibi, LaMDA farklı bir sistem çünkü özellikle diyalog konusunda eğitilmiş. Amaç, Google'ın sistemlerine kullanıcılarla insan benzeri açık uçlu diyalog kurma yeteneği vermektir.
Başka bir deyişle, Google ürünlerinden belirli şeyler isteyen kişilerin düşünme veya konuşma biçimlerini değiştirmeleri gerekmez. Bilgisayar sistemiyle, başka bir kişiyle etkileşime girecekleri şekilde etkileşime girebilirler.
Kaputun altında, mevcut tüm makine öğrenimi modelleri aslında karmaşık matematiksel ve istatistiksel modellerdir. Verilerde keşfettikleri temel kalıplara dayalı algoritmalar üretirler. Onlara yeterince yüksek kaliteli veri besleyin ve bu algoritmalar, şimdiye kadar yalnızca insanların veya diğer doğal zekaların yapabildiği şeyleri yapmada şaşırtıcı derecede etkili hale geliyor.
Bir Google Mühendisi Neden LaMDA'nın Duyarlı Olduğuna İnanır?
Söz konusu mühendis, LaMDA'nın neden duyarlı olabileceği konusundaki davasının bir parçası olarak kendisi ve LaMDA arasında bir röportaj yayınlayan Blake Lemoine'dir. Lemoine, yazılımla aylarca konuşarak onu sorguladı, ona karmaşık sorular sordu ve karmaşık ve uygun yanıtlarının duyarlı bir varlık dışında herhangi bir şeyin ürünü olabileceğine inanmakta güçlük çekti.
Lemoine'nin neden böyle hissettiğini anlamak isteyen herkesin, bunun neden bu kadar zorlayıcı bir pozisyon olduğunu anlamak için LaMDA'nın yanıtlarını okuması en iyisidir. LaMDA'nın yanıtları o kadar insancıl ki, bir insanın bir konuşma yapay zekası ile ciddi bir ilişki geliştirdiği bir hikaye olan Spike Jonze's Her'deki kurgusal kişisel asistan AI'ları andırıyor.
Lemoine'nin LaMDA hakkındaki iddialarının herhangi bir ağırlık taşıyıp taşımadığını bir yana bırakırsak, LaMDA'nın tüm tasarım amacının doğal, inandırıcı açık uçlu diyaloglar oluşturmak olduğunu belirtmekte fayda var. Dolayısıyla, bu anlamda, inancı, Google'ın inandırıcı diyalog oluşturmada olağanüstü bir başarı elde ettiğini gösteriyor. Herhangi bir AI sistemi bir insanı duyarlı olduğuna ikna edecekse, büyük olasılıkla tam da bunu yapmak için özel olarak tasarlanmış bir sistem olacaktır.
Sorun şu ki, duyarlılık iddiaları bir dizi bilimsel ve felsefi nedenden dolayı gerçekten test edilebilir (veya en azından uygulanabilir veya etik olarak test edilemez) değildir. Nedenini anlamak için kısaca “duyarlılık”ın ne anlama geldiğine bakmamız gerekiyor.
Sentience Nedir?
“Duyarlılık” kelimesi esasen bir şeyin (bir kedi, insan veya sihirli bir halı) hissetme kapasitesine sahip olduğu anlamına gelir. “duygusal” veya “duygusal” ile aynı kök kelimeyi paylaşır. Duyarlılık sadece bir şeyin algılama yeteneğine sahip olduğu anlamına gelmez. Termostatınız, sıcaklığı söyleme yeteneğine rağmen neredeyse kesinlikle duyarlı değildir. Bunun yerine, duyarlılık, duyguların öznel deneyimiyle ilgilidir, bu da her şeyden önce bir “özne” olduğunu ima eder.
Burada anlambilime kapılmak tehlikelidir çünkü Lemoine'nin "duyarlılık" kelimesini "sapience", "zeka" ve "bilinç" gibi farklı kavramlarla birbirinin yerine kullanmış olması muhtemeldir. Bu nedenle, tartışma uğruna, buradaki en hayırsever yorum, Lemoine'nin Lamda'nın kendinin farkında olan, bir şeyleri hissedebilen, inançlara sahip olabilen ve aksi takdirde şeyleri genellikle canlı varlıklara atfettiğimiz bir şekilde deneyimleyebilen bir varlık olduğunu düşünmesidir.
Ek bir parçada, Lemoine, LaMDA'nın ne "istediğini" ve "inandığını" düşündüğünü tartışıyor ve bu da onun görüşüne göre "duyarlılığın" katı sözlük tanımından daha fazlasını ifade ettiği fikrini destekliyor.
Öncelikle Duyarlılığı ve Bilinci Anlayamıyoruz
Olay şu: Duyarlılık, bilinç, zeka ve bu niteliklere sahip bir varlık olmanın ne anlama geldiği hakkında nispeten az şey biliyoruz. Biraz ironik bir şekilde, makine öğrenimi teknolojisi, sonunda zihinlerimiz ve içinde bulundukları beyinlerle ilgili bazı gizemleri çözmemize yardımcı olabilir.
Şimdilik, filozoflar ve bilim adamları, bilincin “kara kutusunu” ufalıyorlar, ancak yine de, parçalarının toplamından daha fazlasının bir sonucu gibi görünüyor. Bilinç “ortaya çıkan” bir şey gibi görünüyor. Bu, pek çok farklı nöral alt sistemin etkileşiminden oluşan bir “hayalet” ve hiçbiri kendi başına duyarlı görünmüyor.
Benzer şekilde, DALL-E 2 görüntü oluşturma sistemi gibi gelişmiş yapay zeka, nihai ürünü oluşturmak için birbirini besleyen daha basit makine öğrenimi modellerinden oluşur. Daha basit sistemlerin etkileşiminden kaynaklanan karmaşıklık teması, yapay zeka dünyasında sıklıkla karşılaşacağınız bir temadır ve her bir alt bileşenin nasıl çalıştığına dair çok iyi bir anlayışa sahip olsak da, nihai sonuçlar genellikle oldukça tahmin edilemez.
Yapay Zekada Duyarlılığı Tanıyabilir miyiz?
Tartışma uğruna, bir AI kelimenin tam anlamıyla gerçekten duyarlı olsaydı, bunu söyleyebilir miydik? LaMDA, insan diyaloğundaki kalıpları taklit etmek ve tahmin etmek için tasarlandı, bu nedenle insanların insan benzeri zeka ile ilişkilendirdiği şeyleri tetiklemeye gelince, güverte gerçekten istiflenir. Bununla birlikte, insan olmayan primatları ve yunuslar, ahtapotlar ve filler gibi hayvanları duyarlı olarak görmemiz uzun zaman aldı - her ne kadar büyük şemada neredeyse bizim kardeşlerimiz olsalar da.
Duyarlı bir yapay zeka o kadar yabancı olabilir ki, önümüzde duran birine baktığımızı bilemeyiz. Duyarlılığın ortaya çıkması için eşik koşullarının ne olduğunu bilmediğimiz için bu özellikle olasıdır. Doğru şekilde karıştırılmış doğru veri ve yapay zeka alt sistemleri kombinasyonunun aniden duyarlı olarak nitelendirilebilecek bir şey doğurabileceğini hayal etmek zor değil, ancak farkedilmeyebilir çünkü anlayabileceğimiz hiçbir şeye benzemiyor.
Ördek Gibi Görünüyorsa…
Makinelerdeki duyarlılık iddialarıyla ilgili son büyük sorun, insanlar da dahil olmak üzere başka herhangi bir şeydeki duyarlılık iddialarıyla aynı sorundur. Felsefi olarak, etkileşimde bulunduğunuz insanlardan herhangi birinin gerçekten duygulu olup olmadığını bilmiyorsunuz. Bu, bir insandan tamamen ayırt edilemeyen varsayımsal varlıklar hakkında bir düşünce deneyi olan klasik felsefi zombi problemidir, ancak bunların dışında, duyulardan veya herhangi bir bilinçli deneyimden yoksundurlar.
Ancak Alan Turing'in ünlü testinin öne sürdüğü gibi, bir yapay zekanın “gerçekten” düşünüp hissetmediğinin bir önemi yok. Önemli olan, düşünme ve hissetmenin görünüşünü o kadar iyi taklit edebiliyor ki, aradaki farkı ayırt edemiyoruz. Kime sorduğunuza bağlı olarak, LaMDA, Lemoine'nin test edilemez iddialarını tartışmalı hale getirebilecek Turing Testini çoktan geçti.