Avances en Inteligencia Artificial: Seguridad, Estrategias y Regulación
Sistemas de pentesting autónomos superan a los humanos
Una startup de seguridad llamada XBOW ha alcanzado el primer puesto en la plataforma HackerOne gracias a un sistema de pentesting (pruebas de seguridad) completamente automatizado. Este agente de IA realiza pruebas exhaustivas en pocas horas y no requiere intervención humana. Su desempeño ha demostrado que es capaz de identificar todo tipo de vulnerabilidades, como ejecución remota de código, inyecciones SQL, exposición de secretos y más, igualando o superando la tasa de hallazgos de expertos humanos.
La relevancia de esto radica en que la seguridad informática podría cambiar radicalmente en los próximos años: la llegada de agentes de IA expertos tanto en ataque como en defensa podría modificar el equilibrio actual. Estos resultados iniciales muestran que ya es posible desarrollar sistemas capaces de competir con profesionales en un área tan compleja como la ciberseguridad.
Las personalidades de las IAs al descubierto: El dilema del prisionero
Investigadores del King’s College de Londres y la Universidad de Oxford han analizado cómo distintos sistemas de IA enfrentan juegos inspirados en el dilema del prisionero, un conocido problema de teoría de juegos que estudia la cooperación y la competencia. Para ello, pusieron a competir modelos de Google, OpenAI y Anthropic en torneos de miles de rondas, observando sus decisiones y estrategias.
El estudio revela que, aunque todos los modelos son competitivos, cada IA desarrolla un “estilo” propio: Gemini (Google) es estratégicamente implacable y aprovecha la cooperación ajena; los modelos de OpenAI tienden a ser cooperativos (aunque eso los perjudica en entornos hostiles); mientras que Claude (Anthropic) es el más permisivo, dispuesto a restaurar la cooperación incluso tras una traición.
Este tipo de investigaciones sugiere que las IA están generando un ecosistema digital con “especies” distintas, cada una con sus propias características y comportamientos. Si bien su capacidad cognitiva básica es similar, la personalidad y estilo de cada modelo puede diferenciar claramente su accionar en situaciones de colaboración o conflicto, marcando la forma en que interactuarán en el mundo real.
Nuevos desafíos en matemáticas y propuestas regulatorias
El organismo Epoch AI ha presentado un nuevo conjunto de problemas matemáticos, llamado FrontierMath Tier 4, diseñado para evaluar los límites de razonamiento de las IA de última generación. Las pruebas, calificadas como extremadamente difíciles por matemáticos profesionales, muestran que los mejores sistemas actuales apenas logran resolver una pequeña fracción de los retos. De hecho, en las pruebas recientes, sólo se han resuelto satisfactoriamente tres de las cincuenta preguntas propuestas, y en esos casos, la IA simplificó el problema mediante supuestos no justificados.
Esto demuestra que los retos verdaderamente complejos y originales aún superan las capacidades actuales de la IA. Sin embargo, a medida que estas barreras se superen, pronto llegaremos a un punto donde será difícil, incluso para expertos humanos, evaluar si las respuestas de una IA a un problema inédito son correctas. El avance de la IA en estas áreas podría conducirnos a un escenario donde sólo unos pocos tienen la capacidad de comprender y verificar los resultados generados por estas máquinas.
Ante el impacto de estos avances, surge la pregunta de cómo regular el desarrollo de la IA. Algunos expertos proponen dirigir la regulación hacia las grandes empresas que lideran la creación de tecnologías avanzadas, en vez de centrarse únicamente en casos de uso o características técnicas de cada modelo. El objetivo sería exigir mayor transparencia e información pública sobre las actividades y riesgos potenciales derivados del desarrollo de IA en el “frontera tecnológica”. Así, la sociedad y los gobiernos tendrían más herramientas para anticipar y reaccionar ante la aparición de capacidades novedosas y riesgos asociados.
