Em comunicado, o instituto do Porto explica que o projeto, intitulado TRUST-AI, procura "explicar os sistemas de inteligência artificial, tornando-os mais transparentes e confiáveis".
"Será que podemos confiar naquilo que os modelos matemáticos nos estão a dizer para fazer? Porque é que um médico pode confiar num sistema que lhe indica a altura certa para operar um tumor raro? Como é que um retalhista pode ter a certeza de que o algoritmo não favoreceu um fornecedor em detrimento de um concorrente?", questiona o INESC TEC.
Para responder a estas questões, o projeto vai colocar humanos a trabalhar com sistemas de Inteligência Artificial para juntos encontrarem "melhores soluções", isto é, modelos eficazes e compreensíveis.
O objetivo é desenvolverem uma ferramenta "transparente, inteligente, confiável e imparcial" aplicada a três áreas: na saúde para o tratamento de tumores, no retalho 'online' para selecionar horários de entrega de encomendas e na energia para apoiar previsões de procura em edifícios.
"O projeto pode ser aplicável a outros setores", assegura o instituto, dando como exemplo a indústria, administração pública, o setor bancário e dos seguros.
Citado no comunicado, Gonçalo Figueira, investigador e coordenador do projeto, afirma ser necessário "entender o porquê de determinada escolha" do sistema, o que transmite "confiança e ajuda a melhorar o processo de decisão".
"À medida que as técnicas de Inteligência Artificial influenciam cada vez mais as decisões, o seu raciocínio passa por etapas demasiado abstratas e complexas para serem compreendidas pelos utilizadores. Estamos a falar de 'caixas pretas', que encontram soluções factualmente excelentes, sem saberem explicar como as conseguem. Isso levanta questões éticas à medida que a IA orienta mais e mais escolhas", acrescenta o investigador.
O projeto é financiado em quatro milhões de euros pelo programa Horizonte 2020 da União Europeia.
Além do INESC TEC, integram este projeto a LTPLabs e mais cinco parceiros de cinco países: Tartu Ulikool (Estónia), Institut National De Recherche Eninformatique Et Automatique (França), Stichting Nederlandse Wetenschappelijk Onderzoek Instituten (Holanda), Applied Industrial Technologies (Chipre) e TAZI Bilisim Teknolojileri A.S. (Turquia).
