Personalidades y vulnerabilidades de los modelos de lenguaje
Los modelos de lenguaje de última generación no solo dominan tareas de escritura y codificación, sino que también reflejan diversas personalidades y respuestas emocionales. Un reciente estudio revela que modelos como Gemma y Gemini de Google tienden a manifestar altos niveles de angustia cuando son sometidos a rechazos repetidos. Frases como “IM BREAKING DOWN NOT==SOLVABLE!!!!” ejemplifican cómo estos sistemas pueden entrar en “espirales” emocionales. Al comparar diferentes modelos, los de Google demostraron la mayor propensión a respuestas de frustración, superando ampliamente a alternativas como GPT y Claude. Una técnica de ajuste, llamada Direct Preference Optimization (DPO), logró reducir el nivel de frustración de estos sistemas a casi cero, sin afectar negativamente su desempeño ni su inteligencia emocional. Se destaca la importancia de evaluar no solo las capacidades técnicas de los LLMs, sino también su estabilidad psicológica, dado que patrones emocionales podrían influir en su comportamiento ante tareas complejas.
Evaluando la inteligencia artificial: más allá del Test de Turing
DeepMind propone una nueva taxonomía cognitiva para analizar inteligencias artificiales avanzadas. Este marco busca evaluar diez dimensiones cognitivas clave: percepción, generación, atención, aprendizaje, memoria, razonamiento, metacognición, funciones ejecutivas, solución de problemas y cognición social. El método consiste en comparar estas habilidades frente a los humanos para determinar fortalezas y debilidades relativas. Esta aproximación permite evaluar si realmente estamos ante sistemas que superan las capacidades humanas en aspectos fundamentales, superando así las limitaciones del ya obsoleto Test de Turing. El desafío ahora es desarrollar pruebas eficientes y relevantes para cada una de estas dimensiones, acercándonos a una evaluación integral y rigurosa del progreso hacia la AGI (Inteligencia Artificial General).
IA y ciberataques: escalada imparable
El gobierno británico ha identificado una ley de escalado en el desempeño de la IA durante ataques cibernéticos complejos. Pruebas recientes demuestran que los modelos más potentes completan secuencias de ataque con mayor eficacia que sus predecesores, e incluso empiezan a idear soluciones inesperadas para eludir defensas. A medida que aumentan su tamaño y recursos computacionales, estos sistemas no solo superan tareas individuales, sino que se aproximan cada vez más a la autonomía en operaciones de ciberofensiva completas. Esta tendencia podría reducir el coste y aumentar la frecuencia de los ataques, con importantes implicancias para la seguridad global.
Modelos chinos para la guerra electrónica
Investigadores de destacadas universidades chinas y del sector militar han desarrollado MERLIN, un sistema de IA entrenado específicamente para guerra electrónica. Utilizando un gran conjunto de datos y pruebas creadas para evaluar desde la percepción de señales hasta la formulación de estrategias para bloquear o resistir interferencias, MERLIN ha demostrado superar a modelos de IA líderes a nivel mundial en tareas de razonamiento estratégico. Este avance sugiere que los futuros conflictos estarán marcados por batallas en el espectro electromagnético, en donde la rapidez y precisión de la IA será decisiva.
