Expertos en IA desmienten una campaña apoyada por Musk que cita sus investigaciones
Reuters
Publicado 31.03.2023 17:25
Por Martin Coulter
LONDRES, 31 mar (Reuters) - Expertos en inteligencia artificial han expresado su preocupación después de que su trabajo se citara en una carta abierta -cofirmada por Elon Musk- en la que se exigía una pausa urgente en la investigación.
La carta, fechada el 22 de marzo y con más de 1.800 firmas hasta el viernes, pedía una pausa de seis meses en el desarrollo de sistemas "más potentes" que el nuevo GPT-4 de OpenAI, respaldado por Microsoft (NASDAQ:MSFT), que puede mantener conversaciones similares a las humanas, componer canciones y resumir documentos extensos.
Desde el lanzamiento el año pasado de ChatGPT, el predecesor de GPT-4, las empresas competidoras se han apresurado a lanzar productos similares.
La carta abierta afirma que los sistemas de IA con "inteligencia humana competitiva" plantean profundos riesgos para la humanidad, y cita 12 investigaciones de expertos, entre ellos académicos universitarios y empleados y ex empleados de OpenAI, Google (NASDAQ:GOOGL) y su filial DeepMind.
Grupos de la sociedad civil de Estados Unidos y la UE han presionado desde entonces a los parlamentarios para que frenen la investigación de OpenAI. OpenAI no respondió inmediatamente a los pedidos de comentarios.
Los críticos han acusado al Future of Life Institute (FLI), la organización que está detrás de la carta y que está financiada principalmente por la Musk Foundation, de dar prioridad a escenarios apocalípticos imaginarios frente a preocupaciones más inmediatas sobre la IA, como los prejuicios racistas o sexistas que se programan en las máquinas.
Entre las investigaciones citadas se encuentra "On the Dangers of Stochastic Parrots" (Sobre los peligros de los loros estocásticos), un conocido artículo del que es coautora Margaret Mitchell, que anteriormente supervisó la investigación ética de la IA en Google.
Mitchell, ahora jefa de ética científica en la empresa de IA Hugging Face, criticó la carta y dijo a Reuters que no estaba claro qué se consideraba "más potente que GPT4".
"Al dar por sentadas muchas ideas cuestionables, la carta afirma un conjunto de prioridades y una narrativa sobre la IA que beneficia a los partidarios de FLI", dijo. "Ignorar los daños activos en este momento es un privilegio que algunos de nosotros no tenemos"
Sus coautores Timnit Gebru y Emily M. Bender criticaron la carta en Twitter (NYSE:TWTR), y esta última calificó algunas de sus afirmaciones de "desquiciadas".
El presidente de FLI, Max Tegmark, dijo a Reuters que la campaña no era un intento de obstaculizar la ventaja corporativa de OpenAI.
"Es bastante gracioso. He visto a gente decir: 'Elon Musk está tratando de frenar a la competencia'", dijo, que añadió que Musk no tuvo ningún papel en la redacción de la carta. "No se trata de una empresa".
Obtenga la app
RIESGOS AHORA
Shiri Dori-Hacohen, profesora adjunta de la Universidad de Connecticut, también criticó que se mencionara su trabajo en la carta. El año pasado, Dori-Hacohen fue coautora de un estudio en el que sostenía que el uso generalizado de la inteligencia artificial ya planteaba graves riesgos.
Su investigación sostenía que el uso actual de sistemas de IA podría influir en la toma de decisiones en relación con el cambio climático, la guerra nuclear y otras amenazas existenciales.
Según declaró a Reuters: "La IA no necesita alcanzar una inteligencia de nivel humano para agravar esos riesgos".
"Hay riesgos no existenciales que son muy, muy importantes, pero que no reciben el mismo tasa de atención al nivel de Hollywood".
Cuando se le pidió que comentara las críticas, Tegmark, de FLI, dijo que tanto los riesgos a corto como a largo plazo de la IA deberían tomarse en serio.
"Si citamos a alguien, sólo significa que afirmamos que respalda esa frase. No significa que estén respaldando la letra, o que respaldemos todo lo que piensan", dijo a Reuters.
Dan Hendrycks, director del Center for AI Safety (Centro para la Seguridad de la Inteligencia Artificial), con sede en California, también citado en la carta, defendió su contenido y dijo a Reuters que era sensato tener en cuenta los casos de cisne negro, aquellos que parecen improbables, pero que tendrían consecuencias devastadoras.
(Reporte de Martin Coulter; Editado en español por Juana Casas)
Escrito por: Reuters
Las operaciones con instrumentos financieros o criptomonedas implican un elevado riesgo, incluyendo la pérdida parcial o total del capital invertido, y pueden no ser adecuadas para todos los inversores. Los precios de las criptomonedas son extremadamente volátiles y pueden verse afectados por factores externos de tipo financiero, regulatorio o político. Operar sobre márgenes aumenta los riesgos financieros.
Antes de lanzarse a invertir en un instrumento financiero o criptomoneda, infórmese debidamente de los riesgos y costes asociados a este tipo operaciones en los mercados financieros. Fije unos objetivos de inversión adecuados a su nivel de experiencia y su apetito por el riesgo y, siempre que sea necesario, busque asesoramiento profesional.
Fusion Media quiere recordarle que la información contenida en este sitio web no se ofrece necesariamente ni en tiempo real ni de forma exacta. Los datos y precios de la web no siempre proceden de operadores de mercado o bolsas, por lo que los precios podrían diferir del precio real de cualquier mercado. Son precios orientativos que en ningún caso deben utilizarse con fines bursátiles. Ni Fusion Media ni ninguno de los proveedores de los datos de esta web asumen responsabilidad alguna por las pérdidas o resultados perniciosos de sus operaciones basados en su confianza en la información contenida en la web.
Queda prohibida la total reproducción, modificación, transmisión o distribución de los datos publicados en este sitio web sin la autorización previa por escrito de Fusion Media y/o del proveedor de los mismos. Todos los derechos de propiedad intelectual están reservados a los proveedores y/o bolsa responsable de dichos los datos.
Fusion Media puede recibir contraprestación económica de las empresas que se anuncian en la página según su interacción con éstas o con los anuncios que aquí se publican.