Hayır, Google’ın yapay zekası bilinçli değil

göre Ufuk açan hikaye Cumartesi günü Washington Post’ta bir Google mühendisi, yayınlanmamış sofistike bir yapay zeka sistemi ile yüzlerce etkileşimden sonra lambdaProgramın bir farkındalık düzeyine ulaştığına inanılıyordu.

Dialog Uygulamaları için Dil Modeli anlamına gelen LaMDA, İnternet’ten büyük metin alanları üzerinde eğitilmiş ve yazılı istemlere yanıt verebilen birkaç büyük ölçekli AI sisteminden biridir. Temel olarak, kalıpları bulmak ve bir sonraki kelime veya kelimelerin hangisinin geleceğini tahmin etmekle görevlendirilirler. Bu tür sistemler oldu giderek iyi soruları yanıtlamak ve inandırıcı bir şekilde insani görünebilecek şekillerde yazmak – ve Google’ın kendisi LaMDA, geçtiğimiz Mayıs ayında bir blog yazısında tanıtıldı Biri olarak “görünüşte sonsuz sayıda konu etrafında serbestçe akan bir şekilde meşgul olabilir”. Ancak sonuçlar aynı zamanda gülünç, tuhaf, sinir bozucu ve dikkatin dağılmasına meyilli olabilir.

Bir Google sözcüsü, Lemoine’nin idari izinde kaldığını doğruladı. The Washington Post’a göre, şirketin gizlilik politikasını ihlal ettiği için kendisine izin verildi.

Lemoine Pazartesi günü yorum yapmak için müsait değildi.

Derin, büyük veriler üzerinde eğitilmiş güçlü bilgi işlem programlarının sürekli ortaya çıkması, bu teknolojinin gelişimini ve kullanımını yöneten etik hakkında endişeleri artırdı. Ve bazen gelişmeler, şu anda mümkün olandan ziyade, olabileceklerin perspektifinden görülür.

Pazartesi günü CNN Business ile yaptığı bir röportajda Marcus, LaMDA gibi sistemleri düşünmenin en iyi yolunun, bir metin mesajındaki bir sonraki kelimeyi tahmin etmek için kullanabileceğiniz bir otomatik tamamlama programının “yüceltilmiş bir versiyonu” olduğunu söyledi. “Gerçekten açım, o yüzden gitmek istiyorum” yazarsanız, bir sonraki kelimeniz olarak “restoran”ı önerebilir. Ancak bu istatistik kullanılarak yapılan bir tahmindir.

“Hiç kimse, steroidlerde bile otomatik tamamlamanın bilinçli olduğunu düşünmemeli” dedi.

Gebru, “Olan şu ki, daha fazla veri kullanmak, daha fazla bilgi işlem yapmak için, hepinizin bildiği bu genel şeyi yarattığınızı, tüm sorularınızı yanıtladığınızı veya her neyse, bunu sizin yaptığınızı söylemek için böyle bir yarış var ve bu, çalmakta olduğunuz davul” dedi. . . “Peki, bu kişi aşırıya kaçtığında nasıl şaşırıyorsun?”

Google yaptığı açıklamada, LaMDA’nın kalite, güvenlik ve gerçeklere dayalı verileri bulma yeteneği ile ilgili olarak “sıkı araştırma ve testlerin” yanı sıra 11 “AI ilkelerinin seçkin incelemesinden” geçtiğini belirtti. Şirket, “Elbette, daha geniş AI topluluğundaki bazıları, bilinçli veya genel AI’nın uzun vadeli potansiyelini araştırıyor, ancak bilinçli olmayan mevcut konuşma modellerini somutlaştırarak bunu yapmak mantıklı değil” dedi.

Google, “Yüzlerce araştırmacı ve mühendis lambda ile görüştü ve Blake’in yaptığı gibi bu kadar kapsamlı iddialar sunan veya lambdayı somutlaştıran başka birinin farkında değiliz” dedi.