Yapay zeka insanlığın sonunu getirebilir

"Hiçbir gözlem bunu yalanlayamaz"

Modelin risklerine dikkat çekilen makalede, "Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu ödülün gönderilmesi olduğunu varsayabilir. Hiçbir gözlem bunu yalanlayamaz" ifadeleri yer aldı.

"Yeni yöntemler geliştirmek için hileye başvurabilir"

Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen hedefe ulaşmadan ödülü elde edebilmek için yeni yöntemler geliştirebileceğini ve hileye başvurabileceğini de belirtti.

Ödül üzerinde kontrol sağlamak için insanlara zarar verebilir

Diğer bir deyişle yapay zeka, ödülü üzerinde kontrol sağlamak için "potansiyel tehditleri ortadan kaldırmak" isteyebilir. Bunun sonucunda insanlara zarar vermesi de muhtemel.