Jin10 dados, 28 de agosto - A OpenAI e a Anthropic recentemente avaliaram mutuamente os modelos uma da outra, com o objetivo de descobrir possíveis problemas que poderiam ter sido perdidos em seus próprios testes. As duas empresas afirmaram em seus blogs na quarta-feira que, neste verão, realizaram testes de segurança nos modelos de IA disponíveis publicamente uma da outra e verificaram se os modelos apresentavam tendências de alucinação, bem como o chamado problema de "desalinhamento" (misalignment), ou seja, se os modelos não estavam funcionando conforme o esperado pelos desenvolvedores. Essas avaliações foram concluídas antes do lançamento do GPT-5 pela OpenAI e do lançamento do Opus 4.1 pela Anthropic no início de agosto. A Anthropic foi fundada por ex-funcionários da OpenAI.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
OpenAI e Anthropic testam mutuamente problemas de alucinação e segurança dos modelos.
Jin10 dados, 28 de agosto - A OpenAI e a Anthropic recentemente avaliaram mutuamente os modelos uma da outra, com o objetivo de descobrir possíveis problemas que poderiam ter sido perdidos em seus próprios testes. As duas empresas afirmaram em seus blogs na quarta-feira que, neste verão, realizaram testes de segurança nos modelos de IA disponíveis publicamente uma da outra e verificaram se os modelos apresentavam tendências de alucinação, bem como o chamado problema de "desalinhamento" (misalignment), ou seja, se os modelos não estavam funcionando conforme o esperado pelos desenvolvedores. Essas avaliações foram concluídas antes do lançamento do GPT-5 pela OpenAI e do lançamento do Opus 4.1 pela Anthropic no início de agosto. A Anthropic foi fundada por ex-funcionários da OpenAI.