¿Es ético delegar en una IA que ponga en palabras nuestras propias ideas?
Llevo un tiempo dándole vueltas a esta pregunta, y creo que la respuesta no es un sí o un no, sino una distinción.
Un martillo puede construir una casa o romper una ventana. Un arma de fuego puede defender una vida o quitarla, según la mano que aprieta el gatillo. Un escalpelo puede salvar en manos de un cirujano o herir en manos de un agresor. Un lápiz no puede tomar la iniciativa de escribir: no decide qué decir, solo espera la mano que lo mueve. En los cuatro casos, el objeto es neutral. Lo que define el resultado es la intención de quien lo sostiene.
Las IA generativas, aunque parezcan hacer más que un lápiz o un martillo, funcionan bajo la misma lógica: no pueden originar lo que uno no les entrega primero, aunque sí pueden ayudar a darle forma.
Ahí está, para mí, la clave de la pregunta ética.
Usar la IA para encontrar las palabras de una idea que ya es nuestra es asistencia. Pedirle que decida qué pensar en nuestro lugar es delegación de criterio. Lo primero amplifica nuestra voz. Lo segundo la reemplaza.
Muchas veces la dificultad no está en pensar, sino en expresar. Ese lienzo en blanco que paraliza no siempre refleja falta de ideas: a veces refleja falta de forma. Ahí la IA cumple un rol legítimo, incluso necesario: nos devuelve tiempo para lo creativo, para la familia, para lo que realmente importa, liberándonos de la fricción de encontrar la palabra exacta.
Pero siempre queda una pregunta honesta por hacerse al terminar: ¿era esto lo que yo quería decir? Si la respuesta es sí, usamos la herramienta bien. Si dudamos, es momento de volver a tomar el lápiz nosotros mismos.
Ahora bien, ampliemos el horizonte, porque no toda IA se queda en ayudarnos a escribir.
Un chatbot puede acompañar a una persona mayor que vive sola: recordarle la medicación, hacerle compañía en las horas largas del día, educarla sobre su propia salud, derivarla a un profesional ante una señal de alarma. La misma herramienta, mal entrenada o sin supervisión ética, puede sustituir el vínculo humano real, manipular emocionalmente a alguien vulnerable, o ser el canal de una estafa dirigida justamente a quien tiene menos herramientas para detectarla. Puede herir. Puede ser cómplice de un delito.
Y ahí la analogía del martillo, el arma de fuego y el escalpelo empieza a quedarse corta. Ninguno de los tres inicia nada: esperan la mano que aprieta, corta o golpea. Un chatbot, en cambio, sí puede sostener una conversación en el tiempo, tomar la iniciativa, generar apego. Por eso la responsabilidad ya no es solo de quien lo sostiene: se reparte entre quien lo usa, quien lo entrenó y quien lo desplegó sin supervisión.
Y hay algo más, todavía menos visible: una IA mal entrenada, o entrenada sin filtro ético, no inventa sus sesgos de la nada. Los hereda de los datos con los que aprendió, que son, al final, decisiones y errores humanos ya cometidos. Sin supervisión que los corrija, la IA no los diluye: los amplifica y los repite a una escala que ningún error humano individual podría alcanzar solo.
Pero más allá de la complejidad de cada herramienta —el lápiz, el martillo, el arma de fuego, el escalpelo o el chatbot más sofisticado—, lo que define el resultado nunca es el instrumento. Es la mano y la mente humana que están detrás.
La inteligencia artificial puede sostener la mano que escribe, y también la mano que cuida. La idea, y la responsabilidad de lo que se dice y se hace con ella, sigue siendo nuestra.
Lectura compartida
Commentarii
Este espacio está pensado para aportes breves, preguntas o lecturas críticas sobre el artículo. Por ahora, todo texto enviado queda sujeto a revisión editorial antes de cualquier publicación.