Algunas de las mentes más importantes del mundo de la tecnología están pidiendo a los investigadores de IA que dejen de trabajar de inmediato en la capacitación de sistemas avanzados en esta área. Los signatarios han recomendado que los laboratorios aprovechen el tiempo de inactividad para desarrollar e implementar conjuntamente protocolos de seguridad para el diseño avanzado de IA, supervisados por un equipo de expertos externos independientes.
- ¡El despido del empleado de Google que afirmó que la inteligencia artificial de Google se ha vuelto consciente de sí misma!
Una carrera loca para desarrollar lo que no sabemos
En una carta abierta en el sitio web del instituto futuro de la vida Publicado, más de 1100 signatarios han expresado su preocupación por lo que llaman una carrera fuera de control para desarrollar y desplegar poderosos cerebros digitales que aún no se pueden controlar, confiar o incluso predecir.
“¿Deberíamos dejar que las máquinas llenen nuestros canales de información con propaganda y falsedades? ¿Deberíamos eliminar automáticamente todos los trabajos, incluidos los hacedores? ¿Deberíamos desarrollar mentes no humanas que eventualmente nos superen en número y nos reemplacen? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”
Esta advertencia suena como algo que hemos leído antes en la ciencia ficción. Sin embargo, aquellos que siguen las noticias tecnológicas han visto el lanzamiento de sistemas de IA cada vez más capaces que se lanzan uno tras otro en poco tiempo. Sistemas que inicialmente tienen muchas similitudes con lo pronosticado en el pasado.
El grupo cree que los sistemas de inteligencia artificial potentes solo deben desarrollarse cuando tengamos una mejor comprensión de sus capacidades y estemos seguros de que los beneficios superan los inconvenientes. De hecho, en su opinión, hacer pública esa tecnología es como darle un cuchillo a un niño.
Como tal, el grupo está pidiendo a todos los laboratorios de IA que dejen de entrenar en sistemas más capaces que GPT-4 durante al menos seis meses. Este descanso debe ser transparente y aprobado e incluir a todos los contribuyentes importantes. Si no se puede implementar una moratoria rápida, el grupo recomienda que los gobiernos intervengan e implementen una prohibición temporal.
Cabe señalar que este grupo no pide que se detenga por completo todos los aspectos del desarrollo de la IA, sino simplemente que se tome un descanso del ritmo vertiginoso al que se están desarrollando y ampliando sistemas sofisticados e impredecibles sin comprender completamente todas las implicaciones que tiene. solicitado
Las élites del campo de la tecnología ya han firmado una carta abierta que incluye nombres familiares como Steve Wozniakel fundador de Apple, Elon Musk, evan agudo Fundador de Pinterest Chris Larsen Uno de los fundadores de Ripple y jean tallinse convierte en el fundador de Skype. También invitaron a quienes estén de acuerdo con el mensaje a agregar sus firmas como muestra pública de apoyo.
¿Qué opinas al respecto, estamos ante unas personas delirantes que solo quieren inculcarnos su miedo al avance tecnológico, o realmente saben algo que los demás no entienden, según los nombres mencionados es difícil?
Artículos Relacionados:
- ¡La inteligencia artificial de Bing amenaza a los usuarios críticos!
- La inteligencia artificial produce imágenes de personas reales y con derechos de autor
- ¡Las respuestas de IA están prohibidas en Stack Overflow!
- El chatbot de inteligencia artificial de Google, Bard, fue acusado de plagio
