Se revela el comportamiento oculto de la IA... Anthropic lanza la herramienta de prueba de alineación "Bloom"Anthropic ha lanzado la herramienta de código abierto Bloom, destinada a analizar y evaluar el comportamiento de modelos de IA de vanguardia, con un enfoque especial en la alineación y los problemas éticos de la IA. En comparación con los métodos tradicionales, Bloom puede ahorrar tiempo y recursos al definir escenarios para evaluar los riesgos del comportamiento de la IA. Además, complementa otra herramienta llamada Petri, trabajando juntos para impulsar el desarrollo de la IA en una dirección que beneficie a la humanidad. El lanzamiento de esta herramienta refleja la creciente importancia de la ética y la política de la IA.
TechubNews·Hace58m