"Os sistemas mais avançados já mostram sinais de autopreservação e de comportamentos enganadores [...]. E isso só vai aumentar à medida que as suas capacidades e autonomia crescerem", apontou, citado em comunicado, Bengio, vencedor do Prémio Turing 2018, conhecido como Prémio Nobel da Ciência da Computação.
A sua organização sem fins lucrativos, chamada LawZero, hoje apresentada, quer ser uma resposta a estes desafios.
O objetivo passa por criar 'software' que impeça a IA de abusar das suas capacidades.
A LawZero quer também desenvolver IA com autonomia limitada para a investigação científica.
A organização conta agora com mais de 15 investigadores e recebeu várias contribuições financeiras, incluindo da instituição de solidariedade Schmidt Sciences, fundada pelo antigo presidente executivo da Google, Eric Schmidt, e pela sua mulher, Wendy.
Leia Também: Apresentação da PlayStation é esta quarta-feira, um dia antes da Switch 2
