Más de 800 personajes famosos, incluidos Steve Wozniak y el príncipe Harryasí como investigadores de IA, ex militares y directores ejecutivos de empresas, firmaron una declaración que pide la prohibición del trabajo con inteligencia artificiallo que podría provocar un levantamiento superinteligencia.
Los oponentes provienen tanto de la izquierda como de la derecha política.
Los firmantes incluyeron: personas de diferentes orígenes y con diferentes opiniones políticasincluido un ganador del Premio Nobel e investigador de IA Geoffrey Hinton, ex asesor de Donald Trump Steve Bannon y rapero willi.am.
El comunicado fue elaborado por la organización. Instituto del Futuro de la Vidaque advierte que el desarrollo de la inteligencia artificial avanza más rápido de lo que el público puede entender:
En cierto modo, este camino nos lo han impuesto las empresas de IA, sus fundadores y el sistema económico que las impulsa, pero nadie ha preguntado realmente a la sociedad si esto es lo que realmente queremos.
IA vs AGI vs Superinteligencia
La inteligencia artificial general (AGI) es la capacidad de las máquinas para razonar y realizar tareas a nivel humano, mientras La superinteligencia significaría que la IA podría realizar tareas mejor que los expertos humanos. Los críticos advierten que dicha tecnología puede representar una amenaza una grave amenaza para la humanidad. Sin embargo, hasta ahora la IA funciona principalmente en tareas estrechamente definidas y todavía no puede hacer frente a problemas más complejos, como la conducción totalmente autónoma.
A pesar de la falta de avances en este campo, Empresas como OpenAI están invirtiendo miles de millones de dólares en el desarrollo de nuevos modelos y centros de datos.. Mark Zuckerberg afirmó recientemente que la superinteligencia existe «en el horizonte»y Elon Musk anunció que «está sucediendo en tiempo real». A su vez, Sam Altman predice que aparecerá la superinteligencia. a más tardar en 2030.
Esta es otra protesta de este tipo.
Este no es el primer llamado a frenar el desarrollo de la inteligencia artificial. El mes pasado, más de 200 científicos y funcionarios públicos, entre ellos 10 ganadores del Premio Nobel, pidieron la designación de «línea roja» sobre las amenazas que plantea la IA.
Sin embargo, esa carta no trataba sobre superinteligencia, sino sobre riesgos que ya se sienten hoy, tales como: desempleo masivo, cambio climático y violaciones de derechos humanos. Otros críticos también advierten contra la insurrección. «Burbujas de IA»que puede romperse sacudir la economía mundial. Observamos una situación similar en 2001 durante la burbuja de Internet.
