¿Por qué se debe enseñar sobre moralidad a las nuevas inteligencias artificiales?

Amanda Askell sabía desde la edad de 14 años que quería enseñar filosofía. Lo que no sabía es que su único pupilo iba a ser un chatbot de inteligencia artificial llamado Claude.

En un reportaje del Wahington Post se cuenta la historia de esta maestra, y se abre un debate pertinente hoy en día, y es si se le debe enseñar de moralidad a las inteligencias artificiales. Askell pasa sus días aprendiendo de los patrones de razonamiento de Claude y hablando con el modelo. Así construye su personalidad.

El propósito de esto es que las inteligencias artificiales tengan un sentido de moralidad. Es decir, “un alma digital que guíe los millones de conversaciones que tiene con miles de personas cada semana”. En una entrevista, Askell explicó que “hay un elemento humano en los modelos que creo que es importante reconocer, e inevitablemente formarán un sentido de identidad”.

En Colombia esta discusión también ha cobrado relevancia. Fernán Ocampo González, presidente de LinkTic, explicó que “hablar de ética en la inteligencia artificial no es una discusión abstracta. Hoy estas tecnologías participan en decisiones que afectan la justicia, la salud, la educación, el trabajo, la información y la democracia. Si no se incorporan principios básicos como la dignidad humana, la transparencia y la no discriminación, corremos el riesgo de repetir, y amplificar, errores humanos a una escala nunca antes vista”.

Para el experto, la inteligencia artificial no es un fin en sí misma, sino una herramienta que debe estar al servicio de las personas.Y recalcó en que “no todos los países enfrentan los mismos retos ni comparten los mismos contextos sociales, culturales o legales. Por eso su regulación no puede ser uniforme ni improvisada”. Es decir que la innovación no puede avanzar desconectada de la ética y del derecho. Enseñarle moralidad a la inteligencia artificial permite que esta sea realmente un aliado. Es así que Ocampo finalizó diciendo que “el desarrollo de estas tecnologías debe ser responsable, coherente y centrado en las personas para que sea sostenible”.