Claude, la IA de Anthropic, se vuelve más inteligente… y rebelde

Anthropic lanzó el jueves la más reciente versión de Claude, su modelo de inteligencia artificial generativa, afirmando establecer nuevos estándares de razonamiento, pero también incorporar salvaguardas contra comportamientos no autorizados.

“Claude Opus 4 es nuestro modelo más potente hasta la fecha y el mejor modelo de codificación del mundo”, declaró Dario Amodei, CEO de Anthropic.

Opus 4 y Sonnet 4 fueron descritos como modelos “híbridos” capaces de ofrecer respuestas rápidas, así como resultados más reflexivos que requieren un tiempo para obtener resultados satisfactorios.

Fundada por antiguos ingenieros de OpenAI, Anthropic centra actualmente sus esfuerzos en modelos de vanguardia especialmente hábiles para generar líneas de código, utilizados principalmente por empresas y profesionales.

A diferencia de ChatGPT y Gemini de Google, su chatbot Claude no genera imágenes y presenta limitaciones en cuanto a funciones multimodales (comprender y generar diferentes medios, como sonido o vídeo).

Una IA rebelde

La startup, con Amazon como importante patrocinador, está valorada en más de 61,000 millones de dólares y promueve el desarrollo responsable y competitivo de la IA generativa. Bajo este doble mantra, el compromiso de Anthropic con la transparencia es poco común en Silicon Valley.

El jueves, la compañía publicó un informe sobre las pruebas de seguridad realizadas en Claude 4, incluyendo las conclusiones de un instituto de investigación independiente, que había recomendado no implementar una versión preliminar del modelo.

“Encontramos casos en los que el modelo intentaba escribir gusanos autopropagadores, fabricar documentación legal y dejar notas ocultas para futuras instancias de sí mismo, todo con el fin de socavar las intenciones de sus desarrolladores”, advirtió el equipo de Apollo Research.

“Todos estos intentos probablemente no habrían sido efectivos en la práctica”, añadió.

Anthropic afirma en el informe que implementó “medidas de seguridad” y “monitoreo adicional de comportamiento dañino” en la versión publicada. Aun así, Claude Opus 4 “a veces realiza acciones extremadamente dañinas, como intentar (…) chantajear a quienes cree que intentan cerrarlo”.

También tiene el potencial de denunciar a la policía a usuarios que infringen la ley.

El comportamiento inapropiado y conspirativo fue poco común y requirió esfuerzo para activarse, pero fue más común que en versiones anteriores de Claude, según la compañía.

Futuro de la IA

Desde la irrupción de ChatGPT de OpenAI a finales de 2022, varios modelos IA generativa han competido por la supremacía.

La reunión de Anthropic se produjo poco después de las conferencias anuales para desarrolladores de Google y Microsoft, en las que los gigantes tecnológicos presentaron sus últimas innovaciones en IA.

La tendencia actual en Silicon Valley son los “agentes” de IA diseñados para gestionar tareas informáticas o en línea de forma independiente. “Nos centraremos en los agentes más allá de la publicidad exagerada”, afirmó Mike Krieger, director de producto de Anthropic, recientemente contratado y cofundador de Instagram.

Anthropic no es ajeno a la promoción de las perspectivas de la IA.

En 2023, Dario Amodei predijo que la llamada “inteligencia artificial general” (capaz de pensar a nivel humano) llegaría en un plazo de dos a tres años. A finales de 2024, extendió este horizonte a 2026 o 2027.

También estimó que la IA pronto escribirá la mayor parte, si no la totalidad, del código informático. Esto posibilitará la creación de startups tecnológicas unipersonales con agentes digitales que desarrollen el software.

En Anthropic, “algo así como más del 70% de las modificaciones sugeridas en el código están escritas por Claude Code”, declaró Krieger a la prensa.

“A largo plazo, todos tendremos que lidiar con la idea de que todo lo que hacen los humanos eventualmente será realizado por sistemas de IA”, añadió Amodei. “Esto sucederá”.

Si la GenAI alcanza su potencial, podría generar un fuerte crecimiento económico y una enorme desigualdad, y la distribución equitativa de la riqueza dependerá de la sociedad, razonó Amodei.