Aseguran que estos modelos pueden tener “efectos potencialmente catastróficos para la sociedad”. Explican la necesidad de implementar una serie de protocolos compartidos, y afirman que no se trata de que se detenga el desarrollo de la IA en general, sino de “dar un paso atrás” para tomar perspectiva.
Elon Musk y un equipo de expertos en inteligencia artificial, están pidiendo a los laboratorios encargados de desarrollar modelos de IA que pausen el entrenamiento de sistemas más potentes que GPT-4. El magnate y otras 1.100 personas han firmado una carta abierta en la que aseguran que estos modelos pueden tener “efectos potencialmente catastróficos para la sociedad”. Y donde aseguran, además, que únicamente se deberían crear “una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.
“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que puedan superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización? Tales decisiones no deben delegarse a líderes tecnológicos no elegidos”, se puede leer en un fragmento de la carta.
Acto seguido, Musk y el equipo de expertos y ejecutivos en la industria, solicitan, por este mismo motivo, detener durante al menos seis meses cualquier tipo de entrenamiento de sistemas de IA más potentes que GPT-4. “Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, afirman.