Sam Altman Apresenta os Cinco Princípios Operacionais da OpenAI e Sinaliza Possíveis Restrições Futuras às Capacidades dos Modelos para a Segurança

Mensagem da Gate News, 27 de abril — O CEO da OpenAI, Sam Altman, publicou cinco princípios operacionais para a empresa sob a sua assinatura pessoal, sinalizando que a OpenAI poderá restringir o acesso dos utilizadores às capacidades do modelo em determinados períodos para priorizar a segurança. No comunicado, Altman descreveu um potencial cenário futuro em que a empresa teria de "sacrificar algum grau de capacitação em troca de maior resiliência."

Altman sublinhou que decisões críticas de IA devem ser tomadas por meio de processos democráticos, e não determinadas apenas por laboratórios de IA. Ele defendeu as recentes compras, em grande escala, de capacidade de computação por parte da OpenAI, a construção de centros de dados globais e os esforços de integração vertical, afirmando que o objetivo é reduzir os custos de IA para tornar a tecnologia acessível a todos. Altman indicou que os governos poderão precisar de explorar novos modelos económicos para garantir a partilha de valor. Ele também destacou um cenário de risco específico: modelos extremamente poderosos poderiam baixar o limiar para criar patogénios novéis, exigindo uma resposta a nível da sociedade.

Altman refletiu sobre a hesitação histórica da OpenAI em libertar os pesos do GPT-2, reconhecendo que a cautela, à luz do que se sabe depois, foi excessiva, mas salientou que isso levou à estratégia de implementação iterativa que a OpenAI continua a empregar hoje.