Röportajlarda ve kamuoyuna yapılan açıklamalarda, AI topluluğundaki birçok kişi mühendisin iddialarını reddetti, bazıları ise hikayesinin teknolojinin insanları ona insan özellikleri atamaya nasıl yönlendirebileceğini vurguladığını belirtti. Ancak Google’ın yapay zekasının bilinçli olabileceğine olan inancın, bu teknolojinin yapabilecekleriyle ilgili korkularımızı ve beklentilerimizi vurguladığı iddia edilebilir.
Dialog Uygulamaları için Dil Modeli anlamına gelen LaMDA, İnternet’ten büyük metin alanları üzerinde eğitilmiş ve yazılı istemlere yanıt verebilen birkaç büyük ölçekli AI sisteminden biridir. Temel olarak, kalıpları bulmak ve bir sonraki kelime veya kelimelerin hangisinin geleceğini tahmin etmekle görevlendirilirler. Bu tür sistemler oldu
giderek iyi soruları yanıtlamak ve inandırıcı bir şekilde insani görünebilecek şekillerde yazmak – ve Google’ın kendisi
LaMDA, geçtiğimiz Mayıs ayında bir blog yazısında tanıtıldı Biri olarak “görünüşte sonsuz sayıda konu etrafında serbestçe akan bir şekilde meşgul olabilir”. Ancak sonuçlar aynı zamanda gülünç, tuhaf, sinir bozucu ve dikkatin dağılmasına meyilli olabilir.
Mühendis Blake Lemoine’in Washington Post’a, Lambda’nın bilincinin yerinde olduğuna dair kanıtları Google ile paylaştığını ancak şirketin aynı fikirde olmadığını söylediği bildirildi. Google Pazartesi günü yaptığı açıklamada, etik uzmanları ve teknoloji uzmanlarından oluşan ekibinin “Blake’in endişelerini AI ilkelerimize uygun olarak gözden geçirdiğini ve kanıtların iddialarını desteklemediği konusunda bilgilendirdiğini” söyledi.
6 Haziran’da Lemoine, Medium’da Google’ın kendisini “şirket içinde gündeme getirdiğim yapay zeka ile ilgili etik kaygıların araştırılmasıyla bağlantılı olarak” ücretli idari izne çıkardığını ve “yakında” kovulabileceğini bildirdi. (O zamana kadar Google’da etik AI ekibinin lideri olan Margaret Mitchell’in deneyiminden bahsetti.
Google bunu 2021’in başlarında başlattı hakkında açık sözlü olduktan sonra
2020’nin sonlarında, dönemin eş lideri Timnit Gebro görevi bırakacak. Gebru, şirketin AI liderliğinden bir konferansta teklifin değerlendirilmesini geri çekmesini veya adını kaldırmasını isteyen bir araştırma makalesiyle ilgili olan da dahil olmak üzere, iç çekişmelerden sonra görevden alındı.)
Bir Google sözcüsü, Lemoine’nin idari izinde kaldığını doğruladı. The Washington Post’a göre, şirketin gizlilik politikasını ihlal ettiği için kendisine izin verildi.
Lemoine Pazartesi günü yorum yapmak için müsait değildi.
Derin, büyük veriler üzerinde eğitilmiş güçlü bilgi işlem programlarının sürekli ortaya çıkması, bu teknolojinin gelişimini ve kullanımını yöneten etik hakkında endişeleri artırdı. Ve bazen gelişmeler, şu anda mümkün olandan ziyade, olabileceklerin perspektifinden görülür.
Yapay zeka topluluğundakilerin Lemoine’in deneyine verdiği yanıtlar hafta sonu sosyal medyada yankılandı ve genellikle aynı sonuca vardı: Google’ın yapay zekası bilince yakın bile değil. Mozilla’da Yapay Zeka konusunda Güvenilir Kıdemli Üyesi Abiba Birhani,
cıvıldamak Pazar günü, “Bu bilinçli sinir ağının yeni bir çağına girdik ve bu sefer onu çürütmek için çok fazla enerji harcayacak.”
Uber tarafından satılan Geometric Intelligence’ın kurucusu ve CEO’su ve “Rebooting AI: Building Yapay Zeka We Can Trust” gibi kitapların yazarı Gary Marcus, LaMDA’nın fikrini bilinçli olarak nitelendirdi.
“Stilts üzerinde saçmalık” bir tweet’te. çabuk yazdı
Blog yazısı Tüm bu AI sistemlerinin, büyük dil veritabanlarından çekerek kalıp eşleştirmesi gerçekleştirdiğini belirtmek gerekir.
Pazartesi günü CNN Business ile yaptığı bir röportajda Marcus, LaMDA gibi sistemleri düşünmenin en iyi yolunun, bir metin mesajındaki bir sonraki kelimeyi tahmin etmek için kullanabileceğiniz bir otomatik tamamlama programının “yüceltilmiş bir versiyonu” olduğunu söyledi. “Gerçekten açım, o yüzden gitmek istiyorum” yazarsanız, bir sonraki kelimeniz olarak “restoran”ı önerebilir. Ancak bu istatistik kullanılarak yapılan bir tahmindir.
“Hiç kimse, steroidlerde bile otomatik tamamlamanın bilinçli olduğunu düşünmemeli” dedi.
Kurucusu ve CEO’su Gebru ile yaptığı röportajda
Dağıtılmış Yapay Zeka Araştırma EnstitüsüDAIR veya DAIR, Lemoine, bilinçli yapay zekanın veya yapay genel zekanın – insan benzeri görevleri gerçekleştirebilen ve bizimle anlamlı şekillerde etkileşime girebilen yapay zekaya atıfta bulunan bir fikir – çok uzak olmadığını iddia eden birçok şirketin kurbanı olduğunu söyledi. .
Örneğin, OpenAI’nin kurucu ortağı ve baş bilim adamı Ilya Sutskiver, şunları söylüyor:
cıvıldamak Şubat ayında, “Bugünün büyük sinir ağları biraz bilinçli olabilir.” Ve geçen hafta, Google Araştırma Başkan Yardımcısı ve meslektaşı Blaise Aguera y Arcas
The Economist için bir makalede yazıldı geçen yıl LaMDA’yı kullanmaya başladığında, “Giderek daha fazla akıllı bir şeyden bahsettiğimi hissettim.” (Bu makale şimdi bir editörün, Lemoine’nin o zamandan beri “Washington Post ile yaptığı bir röportajda Google’ın sohbet robotu LaMDA’nın ‘bilinçli’ hale geldiğini iddia ettikten sonra izne çıkarıldığını belirten notunu içeriyor.”)
Gebru, “Olan şu ki, daha fazla veri kullanmak, daha fazla bilgi işlem yapmak için, hepinizin bildiği bu genel şeyi yarattığınızı, tüm sorularınızı yanıtladığınızı veya her neyse, bunu sizin yaptığınızı söylemek için böyle bir yarış var ve bu, çalmakta olduğunuz davul” dedi. . . “Peki, bu kişi aşırıya kaçtığında nasıl şaşırıyorsun?”
Google yaptığı açıklamada, LaMDA’nın kalite, güvenlik ve gerçeklere dayalı verileri bulma yeteneği ile ilgili olarak “sıkı araştırma ve testlerin” yanı sıra 11 “AI ilkelerinin seçkin incelemesinden” geçtiğini belirtti. Şirket, “Elbette, daha geniş AI topluluğundaki bazıları, bilinçli veya genel AI’nın uzun vadeli potansiyelini araştırıyor, ancak bilinçli olmayan mevcut konuşma modellerini somutlaştırarak bunu yapmak mantıklı değil” dedi.
Google, “Yüzlerce araştırmacı ve mühendis lambda ile görüştü ve Blake’in yaptığı gibi bu kadar kapsamlı iddialar sunan veya lambdayı somutlaştıran başka birinin farkında değiliz” dedi.
More Stories
Galaxy telefonlar Nisan 2024 Google Play sistem güncellemesini almaya başlıyor
2XKO 'Kraken Rahibesi Illoi' Fragmanı
Fortnite'ın Battle Royale modu bir Uber yolculuğu sırasında tasarlandı