Las promesas de infalibilidad en la inteligencia artificial generativa se ven cuestionadas tras una reciente demostración de vulnerabilidad. Un experto en ciberseguridad logró comprometer ChatGPT y la IA de Google en tiempo récord, evidenciando la persistencia de errores graves en estas herramientas.

Un investigador mexicano ha puesto en jaque la seguridad de las inteligencias artificiales más populares del momento. En una prueba de concepto que duró apenas 20 minutos, logró explotar vulnerabilidades en ChatGPT y la IA de Google, demostrando que, a pesar de las afirmaciones de las empresas desarrolladoras, estas herramientas aún son susceptibles a errores significativos. El experto, cuyo nombre no ha sido revelado para evitar la reproducción de las técnicas utilizadas, afirma que el objetivo de su investigación es alertar sobre la necesidad de reforzar la seguridad de estos sistemas antes de su implementación masiva en sectores críticos.

La metodología empleada por el investigador se centró en la identificación de fallos en la validación de entradas y en la capacidad de las IA para ser engañadas mediante técnicas de 'prompt injection', donde se manipula el texto de entrada para alterar el comportamiento del modelo. Al lograr que las IA proporcionaran información confidencial o realizaran acciones no deseadas, el investigador demostró que la seguridad de estos sistemas aún está lejos de ser perfecta. Este tipo de vulnerabilidades podrían ser explotadas por actores maliciosos para propagar desinformación, acceder a datos sensibles o incluso manipular decisiones importantes.

La divulgación de esta investigación ha generado un debate crucial sobre la responsabilidad de las empresas desarrolladoras de IA. Si bien estas herramientas ofrecen un potencial enorme en diversos campos, la falta de seguridad podría tener consecuencias devastadoras. Expertos en ciberseguridad instan a las compañías a invertir en pruebas exhaustivas y a colaborar con la comunidad investigadora para identificar y corregir vulnerabilidades antes de que sean explotadas. La confianza en la inteligencia artificial depende, en gran medida, de la capacidad de garantizar su seguridad y evitar su uso malintencionado.