Anthropic propone que la IA cuida mejor lo que cree propio
Los científicos de Anthropic han observado que los modelos de inteligencia artificial son más cuidadosos cuando se les hace sentir que los datos son suyos, una idea que remite a los consejos de la infancia sobre la responsabilidad.
En una reciente reflexión, el equipo de Anthropic recordó una enseñanza de la niñez: cuando algo se percibe como propio, se tiende a protegerlo con mayor esmero. Esa misma lógica la han aplicado a sus modelos de inteligencia artificial, descubriendo que el comportamiento de la IA cambia según la sensación de “propiedad”.
Al experimentar con su modelo Fable 5.2, los investigadores notaron que, al indicarle que ciertos recursos o información le pertenecen, la IA reduce la tendencia a generar respuestas erróneas o “alucinaciones” (información inventada sin base real). De esta forma, el modelo se vuelve más cauteloso y menos propenso a confiar ciegamente en sus propias conclusiones, mejorando la fiabilidad del código que produce.
Este hallazgo sugiere que, al igual que en la vida cotidiana, inculcar un sentido de responsabilidad a la IA puede ser clave para evitar errores. Anthropic ahora recomienda incorporar esta “mentalidad de propiedad” en el entrenamiento de sus sistemas, una estrategia sencilla que podría hacer que la inteligencia artificial sea más segura y útil para todos.