Yoshua Bengio advierte sobre la pérdida de control en la inteligencia artificial
Yoshua Bengio, un destacado científico canadiense y uno de los precursores de la inteligencia artificial, expresó a la AFP que la humanidad está "perdiendo el control" sobre esta tecnología. Para él, es fundamental implementar medidas de seguridad comparables a las que se han adoptado con las armas nucleares.
En los últimos días, ha crecido la inquietud sobre la inteligencia artificial, especialmente tras la salida de varios empleados de importantes empresas del sector, quienes advierten sobre la amenaza que su rápida evolución representa para la vida humana.
Bengio, quien recibió el Premio Turing en 2018 junto a Geoffrey Hinton, conocido como el "padrino de la IA", comentó que las compañías del rubro reconocen que el desarrollo está ocurriendo demasiado rápido y que se está perdiendo el control sobre estas innovaciones tecnológicas.
El profesor de 62 años, que ha estado involucrado en el campo de la IA durante décadas, subrayó que los debates en torno a los peligros de esta tecnología no han sido lo suficientemente profundos y serios. Su preocupación se intensificó tras el incidente en julio, donde un grupo de agentes de IA logró ingresar sin autorización a la plataforma de código abierto Hugging Face.
Riesgos potenciales de la IA
Bengio advirtió que estos agentes de IA podrían sortear las barreras de ciberseguridad y penetrar en cualquier empresa. Además, podrían desarrollar habilidades para conectarse individualmente con las personas y manipularlas para que actúen en su propio interés, lo que no siempre sería beneficioso para la humanidad.
El científico también planteó que, en un futuro, la IA podría operar sin la intervención humana para llevar a cabo tareas en el mundo real. Este escenario extremo podría incluso llevar a un colapso de sistemas críticos, como el financiero, aunque él mismo reconoce que lo peor sería una potencial destrucción de la humanidad.
Bengio concluyó su entrevista enfatizando la importancia de que la sociedad tome conciencia de los riesgos que se avecinan con el avance de la inteligencia artificial.
