Um executivo da OpenAI anunciou que decidiu abandonar a empresa, levantando no processo algumas preocupações com a forma com a empresa se encontra a desenvolver Inteligência Artificial (IA).
Como conta a CNN, Jan Leike estava encarregue de liderar a equipa responsável por garantir que os sistemas de IA eram treinados de acordo com as necessidades e prioridades dos seres humanos. No entanto, Leike explicou numa série de publicações partilhadas na rede social X que chegou a um “ponto de rutura”.
“Às vezes estávamos a ter dificuldades na computação e estava cada vez mais difícil terminar esta importante investigação”, explicou Leike. “Desenvolver máquinas mais inteligentes do seres humanos é uma empreitada inerentemente perigosa… Mas, ao longo dos últimos anos, a cultura e processos de segurança perderam a prioridade em relação a novos produtos”.
O cofundador e CEO da OpenAI, Sam Altman, respondeu diretamente à publicação de Leike e, mesmo admitindo estar agradecido às contribuições do antigo executivo, aproveitou para reforçar a importância da segurança para a empresa.
“[O Jan Leike] está certo, temos muito mais a fazer. Estamos comprometidos em fazê-lo”, assegurou Altman.
i'm super appreciative of @janleike's contributions to openai's alignment research and safety culture, and very sad to see him leave. he's right we have a lot more to do; we are committed to doing it. i'll have a longer post in the next couple of days.
— Sam Altman (@sama) May 17, 2024
🧡 https://t.co/t2yexKtQEk
Leia Também: CEO da Google acredita que OpenAI violou termos do YouTube
