75 yaşındaki Hinton Google’daki vazifesinden yakın bir vakit evvel istifa etti.
BBC’ye verdiği röportajda “Artık tehlikelerin neler olabileceği konusunda konuşabilirim” diyen Hinton, bu tehlikelerin kimilerinin “çok korkutucu” olduğunu söyledi.
İngiliz ve Kanada vatandaşlığı olan bilim adamı, chatbot olarak bilinen sohbet robotlarının yakında insan beyninin bilgi kapasitesini aşabileceğini söylüyor.
Hinton derin öğrenme ve yapay hudut ağları üzerine yaptığı araştırmalarla yapay zekanın bugünkü noktasına ulaşmasında rol oynadı.
ChatGPT üzere gelişmiş sistemler, sağladıkları imkanlar kadar, gelecekle ilgili ikazların da merkezindeler. Hinton da bu noktaya dikkat çekiyor:
“Şu anda, GPT-4, sahip olduğu genel bilgi ölçüsü açısından bir insanı, hem de uzak orta gölgede bırakabiliyor. Muhakeme açısından ise birebir oranda uygun değiller, lakin kolay muhakeme yapabiliyorlar.
“İlerleme suratı göz önüne alındığında da bu sistemlerin çok süratli bir biçimde daha tesirli bir hale geleceğini biliyoruz. Ve bu bizi endişelendirmeli. Şu anda benim bildiğim kadarıyla bizden daha zeki değiller. Lakin yakında daha zeki olabilirler.”
Hinton, New York Times gazetesi için kaleme aldığı makalede de “kötü kişilerin” yapay zeka ile “kötü şeyler” yapabileceğine vurgu yapıyor.
Bu nokta ile ilgili BBC’nin sorusunu yanıtlayan Hinton, “Bu kabus senaryolarından biri” yanıtını veriyor:
“Kötü şahıslardan biri olan Putin’in, robotlara kendi alt hedeflerini yaratma imkanı tanıdığını varsayalım. Bu sonunda ‘daha fazla güç elde etmem gerek’ üzere alt gayeler doğurabilir”
Hinton devam ediyor:
“Yarattığımız zeka çeşidinin bizim sahip olduğumuzdan çok farklı olduğu sonucuna vardım.
“Biz biyolojik bir sistemiz lakin bunlar dijital sistemler. Dijital sistemlerdeki en büyük fark, birebir ebatlardan çokça kopya yapabilirsiniz.
“Tüm bu kopyalar farklı şeyler öğrenebilir fakat birbirleri ile bilgilerini anında paylaşabilir. Yani güya 10 bin kişiniz var ve bunlardan biri bir şey öğreniyor, öbürleri de birebir anda bu bilgiye sahip oluyor. İşte bu sohbet robotları bu sayede rastgele bir beşerden daha fazla bilgiye sahip.
Geoffrey Hinton Google’dan ayrılması ile ilgili olarak da “Onlar hakkında yeterli şeyler söylemek istiyordum. Şayet orada çalışırken bunları söyleseydim gereğince tesirli olmazlardı” dedi.