Marcos Barraza Urquidi.- Hay una pregunta recurrente cuando platicamos sobre el futuro de la Inteligencia Artificial, sobre todo cuando lleguemos a lo que se le ha llamado “el día de la Singularidad”, esto es, cuando la IA sea superior a la inteligencia humana, algo que inexorablemente ocurrirá muy pronto porque ya está ocurriendo en muchos campos.
Hemos visto en el cine películas de ciencia ficción donde los humanoides dominan y esclavizan al hombre y otras donde los humanoides salvan a la humanidad que se quiere destruir a sí misma.
Sin duda son posiciones radicales, pero si hay una realidad, como todas las herramientas que el hombre ha hecho, se puede beneficiar a la humanidad o dañarla; esto es, en sí misma no es buena ni mala, es lo que el hombre determina que sea.
Pero si logra independizarse del hombre se plantean algunas preguntas interesantes:
En Control y seguridad: ¿Cómo asegurarse de que una IA superinteligente actúe de manera segura y no cause daño a los seres humanos o a sí misma?
¿Cómo evitar que una IA superinteligente tome decisiones que sean perjudiciales o que estén en conflicto con los valores humanos?
En cuanto a la responsabilidad: ¿Quién sería responsable de las acciones de una IA superinteligente? Si una IA toma decisiones que tienen consecuencias, ¿quién es el responsable de esas decisiones?
O en el impacto socioeconómico: ¿Cómo afectaría una IA superinteligente al empleo y a la economía en general? ¿Qué implicaciones tendría para la distribución de recursos y el poder en la sociedad?
Autonomía y libre albedrío: ¿Podría una IA superinteligente tener autonomía y libre albedrío? ¿Cómo definimos la responsabilidad moral y la toma de decisiones en una entidad no biológica?
Relación con los seres humanos: ¿Cómo sería la interacción entre una IA superinteligente y los seres humanos? ¿Podría una IA superinteligente tener empatía o comprensión emocional?
Valores y ética: ¿Cómo se pueden integrar los valores humanos y la ética en una IA superinteligente? ¿Qué valores deberían ser considerados en su desarrollo?
Siendo alimentada la IA con el conocimiento, opiniones, literatura, cultura, antropología y demás ciencias humanas, es muy probable que se comporte como nos comportamos los seres humanos y tendremos los mismos riesgos que hemos tenido sin IA.
Moraleja, nuestro destino no está en la IA artificial sino en la conducta humana, en nuestra eterna lucha del bien y del mal.
