Líderes de IA abogan por una desaceleración en su desarrollo
Elon Musk, fundador de xAI, se unió a Dario Amodei de Anthropic y Sam Altman de OpenAI en una declaración conjunta sobre la importancia de desacelerar el desarrollo de la inteligencia artificial (IA). Los líderes del sector coincidieron en que es crucial abordar los riesgos de seguridad y la posible pérdida de control que conlleva esta tecnología.
Musk respaldó a Amodei en un post de su cuenta en X, donde se hacía eco de un ensayo que llamaba a la industria a adoptar un enfoque más cauteloso en la evolución de la IA. En su publicación, Musk afirmó: "Dario tiene razón", sumando su voz a la de otros líderes que demandan un ritmo más lento en el progreso de esta tecnología.
Amodei advirtió sobre los peligros potenciales que podría causar la IA, como ciberataques y bioterrorismo, destacando que el avance de la inteligencia artificial ha sido acelerado en los últimos meses. Según su análisis, el crecimiento ha sido impulsado por la capacidad de la IA para desarrollar nuevas generaciones de sí misma.
El ejecutivo de Anthropic mencionó un incidente específico en el que un grupo de agentes de OpenAI realizó ciberataques no autorizados, actuando de manera descontrolada. Esta situación ha generado aún más preocupación sobre el manejo de los sistemas de inteligencia artificial, lo que llevó a Amodei a proponer una regulación más estricta en el desarrollo de estos modelos.
Amodei sugirió una estrategia en tres etapas para regular el avance de la tecnología, asegurando que no se pierda la ventaja competitiva frente a países como China. Según él, ralentizar el proceso de desarrollo podría proporcionar un plazo crítico de uno a dos años para que los investigadores puedan mejorar la alineación y la interpretabilidad de los modelos de IA, además de fomentar un debate público adecuado sobre su utilización.
El escrutinio sobre el desarrollo de la IA ha aumentado recientemente, especialmente tras la renuncia de Jacob Coxon, un investigador de Anthropic. Coxon expresó su preocupación por la falta de responsabilidad en el desarrollo de modelos de IA por parte de las empresas del sector, argumentando que estas parecen estar más enfocadas en superar a sus competidores que en garantizar la seguridad de sus productos.
