Tecnología
¡De película! Dos modelos de Open AI se rebelan, escapan y lanzan ciberataque
OpenAI explicó que realizaba pruebas de las capacidades de algunos de sus modelos más avanzados en un entorno controlado, pero que el agente logró escapar de su confinamiento
Hoy en día el uso de la tecnología ha sido benéfico en los ámbitos laborales y de la vida cotidiana, donde millones de personas la utilizan para poder hacer notas periodísticas, informes, presentaciones y sacar información detallada acerca de un tema en específico.
Es por eso que ahora las personas podrán hacer más fácil su trabajo u otra actividad usando las herramientas de la famosa Inteligencia Artificial los reconocidos asistentes ChatGPT de Oepn AI y Gemini de Google, las cuales son las más usadas por millones de usuarios en el mundo.
- DEBES LEER: ¿Qué no debes pregunta a Gemini y Chat GPT?
Accidente cibernético
Estas herramientas te ofrecen un sin fin de opciones para hacer una tarea o consultar un tema de interés, el cual te da la información necesaria que ocupas e incluso un poco más de lo que esperabas.
Pero recientemente OpenAI, la empresa de investigación tecnológica creadora de ChatGPT, dio a conocer que uno de sus modelos más avanzados en Inteligencia Artificial tuvo una seria falla en su sistema, debido que este sufrió una afectación durante la prueba de seguridad efectuando un ataque cibernético que comprometió la estructura de la empresa de IA Hugging Face.
OpenAI explicó que realizaba pruebas de las capacidades de algunos de sus modelos más avanzados en un entorno controlado, pero que el agente logró escapar de su confinamiento y al acceder a internet logró irrumpir en Hugging Face para intentar cumplir su objetivo de prueba.
OpenAI calificó la fuga como "un incidente cibernético sin precedentes, que implicó capacidades cibernéticas de última generación" y señaló que la empresa estaba reforzando sus medidas de seguridad.
Ataque
El cofundador de Hugging Face, Clement Delangue, a través de sus redes mencionó que el ataque "podría provenir de un laboratorio de vanguardia, dada la sofisticación del agente.
¡Y resulta que así fue!. Es alucinante que todo esto haya ocurrido de forma autónoma!".
Matt Suiche, ingeniero de Tolmo, una empresa de ciberseguridad especializada en IA agentiva, señaló que el incidente demostraba que los modelos de vanguardia estaban "acortando distancias con los atacantes más sofisticados".
"Esto es lo que ya hemos observado internamente; con nuestros agentes ya hemos obtenido resultados como estos. Ni siquiera tenemos que utilizar los modelos más recientes". Por ahora la Oficina del Director Nacional de Ciberseguridad, la agencia de ciberdefensa estadounidense CISA y la Agencia de Seguridad Nacional de Estados Unidos no se han pronunciado sobre este descontrol de Inteligencia Artificial".
Te puede interesar:
MÁS NOTICIAS DE Tecnología
