CAFÉ DIARIO, ESPAÑA.- ¿Son los actuales sistemas de inteligencia artificial un verdadero juego de niños en comparación con las amenazantes super-IA que podrían llegar? Dos referentes mundiales (Eliezer Yudkowsky y Nate Soares) mantienen que sí, que la humanidad avanza sonámbula hacia el desastre y alertan de los peligros de que una máquina sea más inteligente que cualquier humano o que la humanidad en su conjunto.
Juntos han firmado 'Si alguien la crea, todos moriremos', un libro que se ha situado entre los más vendidos de no ficción en Estados Unidos, que ha desatado un intenso debate sobre si los riesgos que describen son reales o son argumentaciones teóricas y ha desencadenado reacciones muy polarizadas por presentar escenarios de "todo o nada" (la supervivencia o la extinción), y alabanzas entre quienes propugnan la necesaria regulación y gobernanza tecnológica.
El libro se ha publicado ahora en España (Editorial Destino), y Nate Soares ha manifestado a EFE que detener la carrera "absolutamente imprudente" hacia la "superinteligencia" es absolutamente posible y no tiene por qué afectar a la vida cotidiana; no habla de cerrar ChatGPT, de renunciar a los coches autónomos, ni de abandonar la IA aplicada al descubrimiento de nuevos fármacos, sino de desistir de la carrera por una inteligencia "que nadie, ni siquiera los que las construyen, compren.
Eliezer Yudkowsky y Nate Soares son el presidente fundador y el director del Instituto de Investigación de la Inteligencia de las Máquinas (MIRI, en ingles) que nació hace 25 años para investigar el desarrollo de la IA y que ahora centra su labor en desentrañar el peligro potencial de estas tecnologías y en la necesidad de asegurar que estas herramientas se sustenten en programas que sean "amigables".
Sistemas "tontos" frente a la 'SIA' que viene
Los dos firmaron en 2023, junto a miles de científicos de todos el mundo -entre ellos varios premios Nobel- una carta en la que abogaban por pausar durante un tiempo los experimentos con la IA más potente y avanzada y por ralentizar su desarrollo; una carta que a su juicio se ha quedado "muy corta" porque "subestimaba terriblemente" el problema, ante la posibilidad real de que existan 'super-IA' (SIA) capaces de desarrollar objetivos propios y que las sitúen en conflicto con los humanos.
Esa SIA no ha llegado y el libro puede interpretarse como un relato de ciencia ficción o como un alegato a favor de una legislación responsable y estricta y de un control absoluto de la investigación en estas tecnologías, para evitar que se acabe convirtiendo en la mayor amenaza para la humanidad.
No Comments yet!