/

Elon Musk y otros líderes tecnológicos piden una pausa en la carrera de la Inteligencia Artificial por considerar que está «fuera de control»

575 views
4 mins read

Algunos de los nombres más importantes de la tecnología están pidiendo que los laboratorios de inteligencia artificial (IA) detengan el entrenamiento de los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad».

Elon Musk se encontraba entre las docenas de líderes tecnológicos, profesores e investigadores que firmaron la carta, que fue publicada por Future of Life Institute, una organización sin fines de lucro respaldada por Musk.

La carta llega solo dos semanas después de que OpenAI anunciara GPT-4, una versión aún más poderosa de la tecnología que sustenta la herramienta de chatbot viral de IA, ChatGPT. En las primeras pruebas y en una demostración de la empresa, se mostró la tecnología redactando demandas, aprobando exámenes estandarizados y creando un sitio web funcional a partir de un boceto dibujado a mano.

La carta decía que la pausa debería aplicarse a los sistemas de IA “más poderosos que GPT-4”. También dijo que los expertos independientes deberían usar la pausa propuesta para desarrollar e implementar conjuntamente un conjunto de protocolos compartidos para herramientas de IA que sean seguras «más allá de toda duda razonable».

“La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes”, decía la carta. “Desafortunadamente, este nivel de planificación y gestión no está sucediendo, a pesar de que en los últimos meses los laboratorios de IA se han visto envueltos en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”.

Si no se establece una pausa pronto, la carta decía que los gobiernos deberían intervenir y crear una moratoria.

La ola de atención en torno a ChatGPT a fines del año pasado ayudó a renovar una carrera armamentista entre las empresas de tecnología para desarrollar e implementar herramientas de IA similares en sus productos. OpenAI, Microsoft y Google están a la vanguardia de esta tendencia, pero IBM, Amazon, Baidu y Tencent están trabajando en tecnologías similares. Una larga lista de nuevas empresas también está desarrollando asistentes de escritura y generadores de imágenes de IA.

Los expertos en inteligencia artificial están cada vez más preocupados por el potencial de las herramientas de IA para dar respuestas sesgadas, la capacidad de difundir información errónea y el impacto en la privacidad del consumidor. Estas herramientas también han generado preguntas sobre cómo la IA puede cambiar las profesiones, permitir que los estudiantes hagan trampa y cambiar nuestra relación con la tecnología.

La carta insinúa la incomodidad más amplia dentro y fuera de la industria con el rápido ritmo de avance de la IA. Algunas agencias gubernamentales en China, la Unión Europea y Singapur han introducido versiones anteriores de marcos de gobernanza de IA.

CNN

Facebook Comments

Latest from Blog