OpenAI prepara Astra, un nuevo modelo de inteligencia artificial que utilizará una técnica de razonamiento denominada “recurrent depth” o recurrencia opaca. El sistema procesa una misma consulta varias veces en ciclos, en lugar de seguir únicamente una secuencia lineal de razonamiento.

La tecnología genera preocupación entre expertos en seguridad de inteligencia artificial porque podría dificultar el monitoreo de los procesos internos del modelo. La cadena de pensamiento suele utilizarse como una herramienta para detectar posibles comportamientos peligrosos o desalineados.

Especialistas de Redwood Research advirtieron que un mayor uso de esta técnica podría reducir la capacidad de supervisar el razonamiento de los modelos.

Sin embargo, OpenAI sostiene que el uso de recurrencia opaca en Astra será limitado y reafirmó su compromiso con sistemas que permitan monitorear cadenas de pensamiento legibles.

El debate también alcanza a otras empresas. Según reportes, Anthropic y Google DeepMind ya analizan esta tecnología, mientras crece la preocupación sobre el futuro de la seguridad y supervisión de la inteligencia artificial.