"Kötü kişiler yapay zekâ ile kötü şeyler yapabilir"

Hinton derin öğrenme ve yapay sinir ağları üzerine yaptığı araştırmalarla yapay zekânın bugünkü noktasına ulaşmasında rol oynadı.

ChatGPT gibi gelişmiş sistemler, sağladıkları imkânlar kadar, gelecekle ilgili uyarıların da merkezindeler.

Hinton da bu noktaya dikkat çekiyor:

Şu anda, GPT-4, sahip olduğu genel bilgi miktarı açısından bir insanı, hem de uzak ara gölgede bırakabiliyor. Muhakeme açısından ise aynı oranda iyi değiller, ama basit muhakeme yapabiliyorlar.

İlerleme hızı göz önüne alındığında da bu sistemlerin çok hızlı bir şekilde daha etkili bir hale geleceğini biliyoruz. Ve bu bizi endişelendirmeli. Şu anda benim bildiğim kadarıyla bizden daha zeki değiller. Ama yakında daha zeki olabilirler.”

Hinton, New York Times gazetesi için kaleme aldığı makalede de kötü kişilerin” yapay zekâ ile kötü şeyler” yapabileceğine vurgu yapıyor.

Bu nokta ile ilgili BBC’nin sorusunu yanıtlayan Hinton, Bu kabus senaryolarından biri” cevabını veriyor:

Kötü kişilerden biri olan Putin’in, robotlara kendi alt amaçlarını yaratma imkânı tanıdığını varsayalım. Bu sonunda ‘daha fazla güç elde etmem gerek’ gibi alt amaçlar doğurabilir”

Hinton devam ediyor:

Yarattığımız zekâ türünün bizim sahip olduğumuzdan çok farklı olduğu sonucuna vardım.

Biz biyolojik bir sistemiz ama bunlar dijital sistemler. Dijital sistemlerdeki en büyük fark, aynı ebatlardan çokça kopya yapabilirsiniz.

Tüm bu kopyalar farklı şeyler öğrenebilir ama birbirleri ile bilgilerini anında paylaşabilir. Yani sanki 10 bin kişiniz var ve bunlardan biri bir şey öğreniyor, diğerleri de aynı anda bu bilgiye sahip oluyor. İşte bu sohbet robotları bu sayede herhangi bir insandan daha fazla bilgiye sahip.

Geoffrey Hinton Google’dan ayrılması ile ilgili olarak da Onlar hakkında iyi şeyler söylemek istiyordum. Eğer orada çalışırken bunları söyleseydim yeterince etkili olmazlardı” dedi.