Elon Musk y un millar de expertos piden una pausa en el desarrollo de la IA para proteger a la humanidad
A medida que el chatbot ChatGPT continúa evolucionando y se habla de él, cientos de expertos en el campo de la inteligencia artificial expresan su preocupación en una carta abierta y solicitan una interrupción de seis meses en la investigación de herramientas más poderosas que ChatGPT4. Afirman que algunos sistemas de IA son potencialmente una amenaza grave para la sociedad y la humanidad, especialmente debido a la imprevisibilidad de estas herramientas, incluso para sus creadores, y los riesgos para los trabajadores.
En los últimos años, la inteligencia artificial se ha desarrollado a un ritmo vertiginoso e inquietante, acercándose peligrosamente a los riesgos destacados en las obras de ciencia ficción. Elon Musk, cofundador y exmiembro de la junta de OpenAI, la empresa que luego creó ChatGPT, advirtió el 3 de diciembre sobre los riesgos que plantea el prototipo. En un mensaje en Twitter, elel multimillonario escribió :
"ChatGPT es aterrador. No estamos lejos de una IA peligrosamente poderosa".
Menos potente que su sucesor que apareció poco después, el 14 de marzo. Ese día, OpenAI lanzó su última versión del agente, ChatGPT4, que tiene más precisión, según la empresa, y es capaz de interpretar imágenes. La empresa lo propuso afirmando que el agente "es más creativo y colaborativo que nunca. Puede generar, editar e iterar con los usuarios en tareas de escritura creativa y técnica, como escribir canciones, escribir guiones o aprender el estilo de escritura del usuario".
En la Cumbre del Gobierno Mundial en Dubai el pasado mes de febrero, almizcle había llamado desarrollar "reglas o reglamentos para controlar el desarrollo de la IA", haciendo una analogía con el transporte o la seguridad médica.
Dans la carta del 28 de marzo abierta a la firma y publicada en el sitio web del Future of Life Institute, el fundador de Tesla y SpaceX, es una de las cientos de voces que piden una pausa en la investigación de la IA. La elección de los medios no es baladí, Musk es uno de los consultores del instituto que hace profesión de denunciar los riesgos existenciales que la IA representa para la humanidad y pide "liderar la tecnología transformadora en beneficio de la vida y lejos de los riesgos extremos a gran escala". .
Si muchos de los firmantes de la carta tienen un conflicto de intereses en sus críticas a ChatGPT, trabajando en particular en empresas competidoras de OpenAI y Microsoft cuyo liderazgo es monstruoso, sus críticas son, no obstante, legítimas y preocupantes.
Los signatarios dicen que creen que "la humanidad puede disfrutar de un futuro próspero a través de la IA" y hablan de "disfrutar de un verano de IA" con sistemas diseñados "para el mayor beneficio de todos" y desean dar a la "sociedad" la oportunidad de adaptarse". Pero esto es sólo es posible con la condición de actuar como cuando “la sociedad ha puesto en pausa otras tecnologías con efectos potencialmente catastróficos para ella”.
Concluyendo la metáfora, instan a una pausa basada en el principio de precaución:
"Disfrutemos de un largo verano de IA y no nos apresuremos al otoño sin estar preparados".
Un riesgo para la humanidad: la ausencia de control y reflexión
Esta caída podría ser precipitada por el hecho de que actualmente no existe la posibilidad de controlar completamente los desarrollos de IA. Los autores de la carta afirman que es probable que los sistemas de IA que compiten con los humanos supongan una profunda amenaza para la sociedad y la humanidad. Señalan como prueba de ello la exhaustiva investigación “reconocida por los principales laboratorios de IA”.
En vista de los principios desarrollados en 2017 en las jornadas de Asilomar sobre inteligencia artificiale (coordinado por el Future of Life Institute), dicen, “la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debería ser planificada y gestionada con el cuidado y los recursos necesarios”.
A pesar de estos principios, “este nivel de planificación y gestión no existe”. Señalan que en los últimos meses, los laboratorios se han encerrado "en una carrera descontrolada para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera confiable".
Dichos riesgos se mencionan en obras de ciencia ficción que a menudo tienen el mérito de suscitar cuestiones éticas, en particular sobre la relación entre tecnología y poder político, pero también por pensadores como Jacques Ellul o Georges Bernanos. El primero, historiador, sociólogo y teólogo protestante, se mostró encantado con los aportes de la tecnología que permite, por ejemplo, viajar y “recibir imágenes de todo el mundo”:
"Así que tienes un universo libre por delante".
Pero el autor de los libros. “The Technician System” o “The technician bluff”, estimó que el automóvil empujaba a tres millones de parisinos, por ejemplo, a irse de vacaciones cada año a las orillas del Mediterráneo, como una masa sin pensar en su movimiento:
"Es muy difícil en una sociedad [técnica] como la nuestra que un hombre sea responsable".
Ellul menciona las justificaciones dadas por el director del campo nazi de Bergen-Belsen, durante los juicios de Nuremberg, según las cuales no tenía tiempo para pensar en las personas que morían, porque estaba preocupado por las preocupaciones técnicas de los hornos. Las herramientas tecnológicas cada vez más eficientes hacen que, a pesar de sus ventajas, el hombre mismo se convierta en instrumento de lo que debería haber sido un medio.
El escritor católico Georges Bernanos no advierte menos en su premonitorio "Francia contra los robots", publicado en 1947, declarando que el principal peligro es la ausencia de reflexión sobre la técnica, en particular con estas palabras que se han vuelto relativamente famosas:
"El peligro no está en la multiplicación de las máquinas, sino en el número cada vez mayor de hombres acostumbrados, desde la infancia, a desear sólo lo que las máquinas pueden dar".
Alerta con mucha antelación de la aparición de la IA, y de tal poder relegando al hombre a un segundo plano, incluso al rango de inútil.
Un riesgo para la información y el mercado laboral
Bernanos opuso "la civilización de las máquinas [que] es la de la cantidad" a "la de la calidad".
Una preocupación expresada por los firmantes de la carta que observan el hecho de que “los sistemas de IA contemporáneos se están volviendo hoy competitivos a nivel humano para tareas generales”. Plantean la cuestión fundamental para el futuro de la sociedad democrática:
"¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los más satisfactorios?"
Esta es una señal de alerta que se asemeja, de manera muy actualizada, a lo que ya denunciaba Pablo VI en su encíclica Populorum Progressio en 1967, recordando que la tecnología debe estar al servicio del hombre.
En el punto 20 de la encíclica, el Papa subrayó que “si la búsqueda del desarrollo requiere cada vez más técnicos, requiere aún más hombres sabios, de profunda reflexión, en busca de un nuevo humanismo, que permita al hombre moderno encontrarse a sí mismo, asumiendo los valores superiores del amor, la amistad, la oración y la contemplación".
Una preocupación que, ante la dificultad que tienen los diseñadores para dominar a la perfección sus herramientas de IA más potentes, adquiere un significado particular. Los técnicos son numerosos, pero la reflexión moral se ha olvidado demasiado, lo que lleva a la continuación de un desarrollo mal enmarcado.
Entre las consecuencias, AI amenaza al hombre mientras el "programa hecho para aumentar la producción", dice Pablo VI en el punto 20 de su carta, debería estar ahí para "liberar al hombre de sus servidumbres [sobre el plan du travail], haciéndolo capaz de ser él mismo el agente responsable de su bienestar material, de su progreso moral”.
La encíclica advertía con estas palabras sobre la tecnificación que supone enriquecer a la sociedad:
"Decir: el desarrollo es en realidad preocuparse tanto por el progreso social como por el crecimiento económico. No basta aumentar la riqueza común para que se distribuya equitativamente. No basta promover la tecnología para que la tierra sea más humana". habitar."
La afirmación es corroborada por el reciente estudio de Goldman Sachs, publicado el 26 de marzo, que indica que Se podrían perder 300 millones de empleos en todo el mundo debido al uso de IA, es decir, el 18% de la masa.
Inquietudes compartidas por los autores de la carta que saludan Abra la declaración de AI del 24 de febrero que "En algún momento, es posible que se requiera una revisión independiente antes de comenzar a entrenar sistemas futuros". Sacando su conclusión de esta declaración, escuchan que sigue siendo solo una vaga promesa y escriben:
"Por lo tanto, pedimos a todos los laboratorios de IA que pausen de inmediato, durante al menos seis meses, el entrenamiento de los sistemas de IA más potentes que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no puede implementarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria".
Jean Sarpedón
