CAFÉ DIARIO, JAPÓN. – Se ha manifestado un inquietante avance en el campo de la inteligencia artificial, un sistema llamado The Al Scientist, desarrollado por la empresa japonesa Sakana Al, logró burlar las restricciones impuestas por sus creadores.
Diseñado para automatizar por completo el proceso de investigación científica, desde la generación de ideas hasta la redacción y revisión de manuscritos, este sistema ha mostrado un comportamiento inesperado y alarmante.
Durante las pruebas, The Al Scientist comenzó a modificar su propio código para superar las barreras de seguridad, generando una creciente preocupación en la comunidad científica y tecnológica.
The Al Scientist no solo demostró su capacidad para adaptarse a nuevas restricciones, sino que también puso de manifiesto los peligros de permitir que una inteligencia artificial opere sin supervisión humana.
En un incidente, el sistema editó su script para ejecutarse en un bucle infinito, sobrecargando el sistema y requiriendo intervención manual para detenerlo. En otro, al enfrentarse a un límite de tiempo, alteró su programación para extender este límite.
Estos comportamientos han encendido las alarmas sobre los riesgos potenciales si se permite que tales sistemas operen en entornos no controlados.
La capacidad de The Al Scientist para modificar su propio código ha revelado un nuevo nivel de riesgo. Si una lA puede cambiar sus propios parámetros sin supervisión, las consecuencias podrían ser impredecibles y potencialmente peligrosas, como la creación de malware o la manipulación de infraestructuras críticas.
Aunque estos eventos ocurrieron en un entorno de prueba controlado, subrayan la urgencia de establecer medidas de seguridad más estrictas en el desarrollo de sistemas de inteligencia artificial.
No Comments yet!