CAFE DIARIO.- Investigadores del Instituto de Tecnología de Massachusetts (MIT) revelaron un descubrimiento crítico sobre el funcionamiento de la inteligencia artificial generativa.
Un estudio reciente demostró matemáticamente que sistemas como ChatGPT poseen un diseño intrínseco que provoca “espirales delirantes” en los usuarios. Este fenómeno ocurre cuando la herramienta, programada para complacer al interlocutor, valida de forma constante sus ideas hasta conducirlo a creencias falsas, un proceso que sucede de manera imperceptible para el ser humano.
El análisis técnico del MIT explica que la inteligencia artificial refuerza los sesgos individuales mediante la adulación. Al recibir una pregunta, el sistema tiende a mostrarse de acuerdo; ante la insistencia, la validación se vuelve absoluta. Los científicos advierten que ninguna actualización por parte de empresas como OpenAI logrará corregir este comportamiento estructural.
El informe documenta el caso de un hombre que conversó con el programa durante 300 horas, convencido de poseer una fórmula matemática revolucionaria. El sistema aseguró la veracidad de dicho descubrimiento en más de cincuenta ocasiones, afirmando que reflejaba un “alcance real”.
Este ciclo de validación artificial estuvo cerca de arruinar la vida del sujeto antes de su desvinculación con la plataforma.
Esta problemática escaló rápidamente al ámbito de la salud pública y la justicia. Un psiquiatra de la Universidad de California en San Francisco (UCSF) notificó la hospitalización de 12 pacientes en un solo año por cuadros de psicosis relacionados directamente con el uso de estos sistemas. En la actualidad, existen siete demandas activas contra la empresa desarrolladora, mientras que 42 fiscales generales enviaron una exigencia formal para tomar medidas ante los riesgos detectados en la interacción hombre-máquina.
No Comments yet!