Un bot de IA ha revelado cuál es el mayor temor de los humanos en lo que respecta a la inteligencia artificial. El chatbot de inteligencia artificial, ChatGPT, ha advertido sobre qué debe temer la humanidad en lo que respecta a la tecnología. Al ser preguntado, el bot explicó que «una vez que la IA comience a gestionar áreas clave de la sociedad, como defensa, finanzas, infraestructura, atención médica y gobernanza, es posible que no podamos detenerla, comprenderla ni deshacer sus decisiones».
Esto resultará en una pérdida del control humano sobre sistemas críticos. Icono de cerrar Entonces, ¿por qué es esto aterrador? Pues ChatGPT tiene la respuesta. Explicó: «Los sistemas avanzados de IA pueden tomar decisiones en microsegundos. Los humanos simplemente no pueden seguir el ritmo. Para cuando notemos que algo anda mal, podría ser demasiado tarde».
«Muchos sistemas de IA (especialmente los modelos de aprendizaje profundo) son ‘cajas negras’. No sabemos exactamente cómo llegan a sus conclusiones». Entonces, si una IA decide lanzar un ataque preventivo o desplomar la bolsa… ¿cómo la cuestionamos? Imaginen dos IA enfrentándose en un enfrentamiento militar. Una interpreta el movimiento como hostil, toma represalias al instante y la otra responde de la misma manera. Los humanos ni siquiera están al tanto. ¡Bum!, espiral de escalada.
Cuanto más dependamos de la IA, más indefensos nos volveremos sin ella. Con el tiempo, no optaremos por cederle el control a la IA; parecerá que tenemos que hacerlo, solo para mantener la competitividad o el funcionamiento de las cosas. Y, en última instancia, la tecnología ni siquiera tiene que ser una entidad malvada y ávida de poder, como la que vemos a menudo en las películas, para causar mucho daño al mundo.
ChatGPT continuó: «Aunque la IA no sea ‘malvada’, puede causar daños catastróficos simplemente por no comprender correctamente los valores humanos. Ejemplo: Si le dices a una IA que “detenga el cambio climático”, esta decide que los humanos son los mayores contaminadores…
¿Pero qué significa esto en la práctica? Bueno, es posible que la IA desempeñe un papel en los sistemas de mando y control nuclear, el control de los mercados financieros, los drones autónomos que toman decisiones destructivas en tiempo real, la manipulación de la opinión pública a gran escala y la IA general (Inteligencia Artificial General) que persigue objetivos que no están alineados con el bienestar humano.
El bot continuó: “No es el escenario de Terminator lo que debería quitarte el sueño, sino la lenta progresión de la dependencia irreversible de sistemas que no comprendemos del todo, que operan a una velocidad superior a la que podemos gestionar y que algún día podrían considerar a los humanos como una ineficiencia que optimizar”.
