Un tercio de los científicos que trabajan en IA creen que su uso podría desencadenar una catástrofe global

Radio Diez de Marzo comparte:

Más de un tercio de los científicos del mundo que investigan en Inteligencia Artificial creen que las decisiones tomadas por las IA podrían desencadenar, durante el próximo siglo, una catástrofe igual o incluso más grave que una guerra nuclear total.

Esa es la aterradora conclusión de una encuesta llevada a cabo por Julian Michael y sus colegas del Centro de Ciencia de Datos de la Universidad de Nueva York, en la que se recogen las opiniones de 327 investigadores que recientemente fueron coautores de artículos científicos sobre la IA y el procesamiento del lenguaje natural. El 36% de ellos, en efecto, piensa que es posible que la IA desencadene una catástrofe global similar a la de una guerra nuclear. La encuesta se publicó recientemente en el servidor de preimpresiones arXiv.

Según se explica en la revista New Scientist, los avances de los últimos años han permitido un uso mucho mayor de modelos de IA con impresionantes capacidades, incluida la escritura de código de computadora y la creación de imágenes a partir de simples indicaciones de texto.

Distintos mandos militares de Estados Unidos han expresado ya sus reticencias sobre la posibilidad de armar drones inteligentes con armas nucleares. Pero países como Rusia ya están trabajando en ello, y actualmente están desarrollando un ‘torpedo de drones’ con capacidades autónomas capaz de lanzar, por sí mismo, un ataque nuclear a gran escala.

La preocupación que refleja la encuesta fue mucho mayor entre las mujeres. El 46% de las investigadoras encuestadas, en efecto, se mostraron de acuerdo con la premisa.

Según Michael, es muy posible incluso que la encuesta haya subestimado el número de investigadores que creen que la IA plantea riesgos graves. Muchos de ellos, en efecto, habrían estado de acuerdo si el peligro planteado fuera menos extremo que el de una guerra nuclear total. Por ejemplo, dice Michael, el 57% de los encuestados consideraron el desarrollo de grandes modelos de IA como ‘pasos significativos hacia la Inteligencia Artificial general’. Es decir, a una IA con capacidades intelectuales iguales a las de los humanos. Y otro 73% estuvo de acuerdo en que la automatización del trabajo a causa del uso de la IA podría conducir a cambios sociales con el mismo impacto de la revolución industrial.

Con todo, y dado que para los próximos años se esperan avances significativos en el desarrollo de la IA, el hecho de que ‘solo’ el 36% de los encuestados vea posible un riesgo catastrófico podría considerarse como alentador, ya que el restante 64% no opina de la misma forma.

Tomado de: https://www.abc.es/ciencia/tercio-cientificos-trabajan-creen-desencadenar-catastrofe-global-20220921172721-nt.html

Login

Welcome! Login in to your account

Remember me Lost your password?

Lost Password