La responsabilidad en la era de la inteligencia artificial

Un ensayo en primera persona sobre lo que la inteligencia artificial puede prestarle a quien investiga y escribe, y lo que ninguna herramienta puede asumir en su lugar.

La verdad es costosa

Las palabras salen baratas. La información sobra. Hoy cualquiera produce una oración plausible en el tiempo que tarda en pensarla, pero la verdad sigue costando lo de siempre: mucho. Exige observación atenta, comparación, corrección y la disposición de soltar una idea atractiva en cuanto la evidencia deja de sostenerla. También exige volver sobre la misma pregunta desde ángulos distintos y distinguir entre lo observado, lo inferido y lo incierto.

La fluidez no es comprensión. La firmeza no es conocimiento. La repetición no es verificación. Una frase puede sonar hermosa y ser falsa; un argumento puede ser coherente puertas adentro y no corresponder con nada del mundo exterior. La inteligencia artificial puede colaborar en esa indagación. No puede reemplazarla.

La herramienta y el oficio

Se puede entrar a un bosque con un hacha sencilla y salir con una casa: los humanos lo hicieron durante siglos. Pero las herramientas eléctricas y los métodos modernos de construcción vuelven ese trabajo más rápido, más preciso y más ambicioso. La inteligencia artificial pertenece a esa familia: organiza información, compara interpretaciones, expone vacíos en un razonamiento y traduce a lenguaje llano lo que antes sólo entendían los especialistas.

Una herramienta eléctrica no elimina la necesidad del oficio. Entregarle una motosierra a un niño no lo vuelve carpintero: lo vuelve un peligro, igual que un modelo de lenguaje potente no vuelve a nadie investigador, historiador, periodista o escritor. Una máquina no aporta el criterio para saber dónde cortar o si lo construido va a mantenerse en pie. La inteligencia artificial potencia la capacidad, pero también la confusión y el error. Cuanto más poderosa la herramienta, mayor la responsabilidad de quien la usa.

Paralaje

Buena parte de lo que sabemos sobre profundidad y posición lo aprendimos prestando atención a diferencias mínimas observadas desde puntos distintos: los dos ojos ven el mundo desde ángulos ligeramente diferentes, los topógrafos comparan mediciones desde posiciones distintas, los astrónomos siguen el desplazamiento aparente de las estrellas mientras la Tierra orbita. A ese fenómeno la astronomía le puso un nombre preciso: paralaje. No es un simple desacuerdo, es información revelada por el desplazamiento mismo.

El mismo objeto cambia de aspecto según la posición desde donde se observa, y comparar esas diferencias enseña algo sobre el objeto y sobre quien observa. El principio se extiende más allá de la física: un episodio histórico se lee distinto en un registro gubernamental, una carta privada o el recuerdo de un testigo, y un argumento convincente desde una disciplina puede quedar en evidencia mirado desde otra.

Uso la inteligencia artificial, en parte, como un ángulo de inspección más: propone otra formulación, deja a la vista un supuesto escondido o sugiere cómo se vería un argumento desde otra tradición. Pero otro ángulo no es automáticamente mejor, y acumular perspectivas no fabrica verdad por sí sola: hay que compararlas con evidencia, porque algunas revelan y otras distorsionan. La inteligencia artificial no ocupa el lugar del punto de vista definitivo: es un instrumento más dentro de una práctica de paralaje intelectual más amplia.

Ese principio aplica también a la propia inteligencia artificial. Un sistema entrenado sobre todo con materiales en inglés no observa desde ningún lugar neutral: ocupa una posición, y su neutralidad aparente puede esconder las condiciones bajo las que fue construido. El paralaje pide más que traducir lo que produce un sistema dominante: pide preservar posiciones genuinamente distintas.

Lo que un detector de IA puede decirnos, y lo que no

Un detector puede estimar que ciertos patrones de un texto se parecen a los que suelen producir los modelos de lenguaje grandes. Ese dato puede ser útil, incluso motivar preguntas legítimas sobre el proceso o la autoría, pero no debe confundirse con un juicio sobre la verdad, la calidad, la originalidad o la responsabilidad intelectual de quien escribió.

Un detector no mide si quien escribe partió de años de conocimiento o de ninguno. No sabe si una afirmación se cotejó con una fuente primaria, ni si un párrafo sugerido se aceptó sin pensarlo o terminó en la basura. No mide la experiencia detrás de una pregunta, ni si una prosa multilingüe y fluida refleja el mundo de las personas cuyo idioma usa. No distingue entre asistencia y sustitución, y sobre todo no carga con la responsabilidad de la obra terminada.

La detección de inteligencia artificial pregunta si una máquina metió mano en el lenguaje. La integridad intelectual pregunta algo distinto: si quien firma comprende, verifica, reconoce y asume lo que se publica. No son la misma pregunta, aunque a veces se confundan.

Cómo utilizo la IA

Uso la inteligencia artificial como instrumento de investigación, compañera editorial e interlocutora. Me ayuda a organizar notas, poner a prueba conexiones entre disciplinas y volver accesible un conocimiento encerrado en la especialización. La uso para generar preguntas y no únicamente respuestas, para ver si un argumento sobrevive a una reformulación, y para localizar los huecos que piden más lectura o el criterio de alguien que sabe más que yo. También en lo editorial: pulir una oración, detectar repeticiones y preguntarme si un párrafo dice lo que quería decir.

No la trato como una autoridad, ni como una autora independiente, ni como sustituto de mi criterio. Produce un lenguaje persuasivo, sea o no verdadero, así que sus afirmaciones deben pasar por fuentes confiables, evidencia primaria y el juicio de quien conoce el tema. La misma cautela aplica cuando cruza idiomas: la fluidez gramatical no prueba comprensión cultural, y traducir no es representar.

Cuando participa de forma sustancial en mi trabajo, esa participación debe reconocerse, no esconderse, aunque declararlo no transfiere la responsabilidad a la máquina. Las preguntas que persigo, las experiencias que cuento y las decisiones finales siguen siendo mías. Descarto lo que no encaja con la evidencia, la voz del texto o el rumbo de la indagación. Sigo siendo responsable de cada palabra que firmo.

Mi manera de usarla es parte del mismo tema que investigo: la historia de la percepción humana, cómo hemos aprendido a percibir, medir y comunicar la realidad, y qué pasa cuando esos sistemas se extienden a máquinas capaces de generar lenguaje. Usados con descuido, multiplican el error y fabrican una apariencia de comprensión sin nada detrás; usados con cuidado, amplían la comparación, exponen supuestos y generan preguntas que vale la pena perseguir.

El principio que gobierna mi trabajo no es la automatización: es la atención humana sostenida. La inteligencia artificial puede ayudarme a construir más rápido o a mostrarme la estructura desde otro ángulo, pero soy yo quien entiende esa estructura, prueba sus cimientos y decide si lo construido corresponde con la realidad. No decide qué es verdad ni qué vale la pena decir. No asume la responsabilidad de lo publicado.

Aquí, en mi espacio de trabajo, en Ontario, Canadá, esa responsabilidad sigue siendo humana. Y va a seguir siéndolo, hasta donde me alcancen las fuerzas.

Texto escrito por Rob Clements. Es escritor e investigador canadiense independiente. Explora la percepción humana, la historia de la inteligencia simbólica y la relación entre el lenguaje, la tecnología y la realidad. Escribe Tales from the Shed cerca del Parque Provincial Petroglyphs, en Ontario.

Te compartimos algunos títulos que te pueden interesar