Por Fernando Varela
La aparición de la IA en la elaboración de textos, de cualquier tipo, plantea interrogantes que no solo van sobre la autoría de los mismos, sino que nos devela una crisis más profunda que es la imposibilidad de verificar la misma. Un caso reciente conmociona a la industria editorial, en el cual una obra ha sido retirada del mercado por sospechas de utilización de IA sin una prueba concluyente1. El interrogante que se nos plantea es ¿cómo sostener categorías como originalidad, autoría y buena fe cuando los programas y/o herramientas existentes no permiten distinguir con certeza entre lo que es humano y lo que es artificial? Por lo tanto el derecho se enfrenta no solo a una redefinición de la calidad de autor, sino también a lo frágil que son los mecanismos que pretende reconocer dicha categoría.
I. Autoría y originalidad en la era de la IA.
En el caso que nos ocupa, Mia Ballard autora de la novela “Shy Girl” y auto publicada en primer lugar y luego adquiridos los derechos por la editorial Hachette en el Reino Unido, comenzó a ser blanco de críticas de los propios lectores que comenzaron a sostener en 2“Goodreads” y en youtube que el texto resultaba repetitivo y que tenía inconsistencias narrativas y que por lo tanto parecía haber sido hecho con IA. La novela mas allá de esas criticas había tenido muy buena acogida y por esa razón una de las editoriales más grandes del mundo había adquirido los derechos y además de publicarla en el Reino Unido, en mayo de 2026 saldría a la venta en el mercado americano.
Las editoriales poseen programas que permiten revisar los manuscritos y detectar si existe participación de la IA en la confección de los mismos (GPTZero; Turnitin AI Detection; Originality.ai; copyleaks, entre otros). Estos “detectores de inteligencia artificial” son herramientas algorítmicas que, a partir del análisis estadístico del lenguaje (previsibilidad, patrones sintácticos y distribución léxica), estiman la probabilidad de que un texto haya sido generado por sistemas automatizados, sin que ello implique una verificación concluyente de su origen. Es importante remarcar que esos sistemas y/o programas en muchos casos generan falsos positivos o negativos y cuando los textos son editados probablemente no encuentren la intervención de la IA. Esto debe haber sucedido en el caso de Hachette.
Evidentemente los sistemas provistos por Hachette fallaron y no encontraron la intervención de la IA, lo que evidencia lo endebles que resultan a la hora de poder determinar si existió o no la IA y por lo tanto la verificación de autoría real y la eventual atribución de responsabilidad.
La autora Ballard, sostuvo que ella no utilizó la IA pero probablemente un editor al que le confió el manuscrito que iba para la autopublicación hizo gala de ella añadiendo párrafos o cambiando otros. Pareciera que el derecho ha comenzado a apoyarse en algunas herramientas que en definitiva no estarían probando hechos sino simples probabilidades.
Ahora bien, si nos remontamos a los criterios expuestos por alguno de nuestros maestros de la propiedad intelectual veremos que la “originalidad” era considerado como uno de los requisitos para que una obra sea protegida. Satanowsky sostenía que 3“… llegamos a la conclusión de que para que una obra del ingenio constituya un objeto del derecho intelectual, es indispensable que no existiera antes, que se vea u oiga por primera vez, que sea distinto de las que antes había y no una copia o imitación…. Para que la ley ampare una obra, basta que no sea copia de otra, que importe un esfuerzo intelectual de características propias, que haya sido producida con invención y esfuerzo particular de autor, que sus elementos estén combinados de una manera nueva…”
Ahora bien, la existencia de la IA tensiona de alguna manera estos conceptos, permitiendo que se generen textos, que por más originalidad que se crea que tienen, los mismos no son más que una super revisión de textos ya existentes y en dónde los algoritmos hacen prolijamente su trabajo generando un texto nuevo. Pero está claro que ese proceso está muy lejos de permitir la protección legal de una obra ya que se aleja del concepto de originalidad y novedad que en general las legislaciones exigen para otorgarla.
Esto se complejiza un poco más cuando aquel que se atribuye la autoría, solo ha dado indicaciones a través de los conocidos “prompts” y luego lo que hace es editar en cierta forma el contenido final emanado de la IA. Posiblemente haya tenido la idea, la cual como sabemos no es registrable, pero la escritura no sale de su autoría ni resulta novedosa, ni es original del ser humano. Frente a esto nos vemos en la disyuntiva de trata de entender que hacemos con la titularidad jurídica de ese contenido final4.
Pareciera entonces que la IA no elimina la categoría de autor, pero si es verdad que la desplaza a un terreno que es más inestable. Esto significa que la cuestión ya no es quién es el creador, sino cuál es la intervención humana relevante jurídicamente para poder sostener la protección autoral. Y entonces, o bien se intenta ampliar el criterio de protección abriendo el espectro a la IA, o bien se sigue sosteniendo el criterio hasta ahora utilizado por las legislaciones en general y la jurisprudencia. Pero en este último caso habrá que ultimar los procedimientos técnicos para determinar la participación de la IA en la confección de textos que luego exijan la protección legal.
Uno de los principales desafíos que estaríamos viendo que surgen en la utilización de inteligencia artificial relativa a la producción de textos se halla en el ámbito probatorio. A diferencia de otros supuestos donde la autoría de una obra puede acreditarse con evidencia directa, en el caso de los sistemas generativos la determinación de si un contenido ha sido producido —total o parcialmente— por la IA se apoya, en la actualidad, en herramientas de naturaleza meramente inferencial, lo que significa que el resultado es solamente de probabilidades.
Estos sistemas o programas que detectan la utilización inteligencia artificial no verifican hechos concretos, sino que estiman probabilidades a partir del análisis estadístico del lenguaje. Existen algunas variables como ser la previsibilidad léxica, la repetición de estructuras sintácticas o la uniformidad de estilos que son utilizadas como indicadores de posible generación automatizada. Ahora bien, esos parámetros no permiten a ciencia cierta distinguir con certeza entre un texto producido por una inteligencia artificial y uno redactado por un ser humano con estilo homogéneo o editado.
Desde ya que el resultado de esto genera consecuencias, entre ellas compromete la evidencia probatoria necesaria para la adopción de decisiones importantes, como la eventual rescisión de un contrato y la consecuente responsabilidad.
Con esto lo que queremos significar es que la editorial Hachette lo que ha hecho es basarse en comentarios de lectores, es decir, en sospechas para tomar una decisión que estimamos debería haber estado un poco más fundada desde lo jurídico.
Lo que entonces estamos viendo es que la existencia de textos generados por IA no es el problema en si, sino la imposibilidad de acreditar la intervención de la misma en los textos, y que aun haciéndolo, como explicamos más arriba, esa verificación es absolutamente probabilística.
Por lo tanto entendemos que mientras no existan mecanismos o herramientas más certeras a la hora de encontrar el patrón de la IA, seguiremos expuestos a este tipo de problemas y debilidades en el campo del derecho de autor.
II. Responsabilidad en la cadena de producción: autor, editor y tecnología mediante.
Cuando el autor decide la creación de una obra, lo hace desde su inventiva novedosa. Ahora bien, cuando hablamos de la IA en la producción de obras, se genera una complejidad adicional en materia de autoría y de responsabilidad jurídica.
En el primer caso la autoría y la eventual responsabilidad es atribuida a la persona física que creó la obra, entonces será tanto autor como responsable en el caso de un plagio.
En el segundo caso, cuando la IA interviene la problemática es más compleja y aquí sería ¿quién es el autor? y ¿quién se hace cargo frente a un eventual reclamo ya sea por incumplimientos o por elementos que afecten la originalidad de la obra?
En adición a esto aparece la figura del proveedor tecnológico. Los sistemas generativos de inteligencia artificial operan a modo de “caja negra” lo que significa que los procesos internos no son plenamente accesibles y menos aun verificables para los usuarios. Por lo tanto este panorama difuso dificulta la atribución de autoría y de responsabilidad.
Nuestro derecho en particular no ofrece aun herramientas claras para asignar la responsabilidad y en este caso tampoco la autoría en materia de IA. La ausencia de estas reglas genera un riesgo enorme de indeterminación, lo que implica que o bien va para el autor (en el caso el ser humano) o bien se debería distribuir entre múltiples actores sin que al final del camino alguien asuma plenamente las consecuencias jurídicas.
Entiendo que en primer lugar sería necesario determinar específicamente los niveles de autoría y ver si de alguna manera logra otorgarse una posición en el marco jurídico a la IA, para de esa forma poder luego ahondar en los criterios de responsabilidad si la hubiere.
Mientras tanto esto no suceda, el sistema nos conduce a que la responsabilidad será difusa y eventualmente difícil de resolver si la IA y los distintos programas circundantes no son tenidos en cuenta como partes de la cadena de producción.
III. Vicios del consentimiento en la contratación editorial: error y presupuestos implícitos de autoría.
Los contratos entre editoriales y autores en materia de obras literarias está estructurado sobre una serie de presupuestos que son esenciales para la validez del vínculo. Una de las cláusulas claves de esos contratos es el reconocimiento de la autoría humana del manuscrito dejando a salvo la responsabilidad ante cualquier reclamo de terceros.
La irrupción de la IA pone claramente en crisis estos presupuestos. En el ámbito editorial, la identidad del autor y la naturaleza de la obra constituyen el sujeto y el objeto esencial del mismo. Si la obra es presentada como un producto de la creación intelectual de un autor y con posterioridad se advierte que la obra ha sido generada total o parcialmente por la IA podríamos estar hablando de la existencia de un error esencial sobre el objeto del contrato o eventualmente sobre la persona del autor, con las consabidas consecuencias que esto puede traer.
Ahora bien, ¿qué pasa cuando la intervención de la IA es parcial, solo ideas, editadas por el ser humano “autor”? Aca podríamos decir que hay una linea muy fina entre creación humana y participación de los algoritmos y dicha linea se difumina dificultándose la determinación de la autoría y de la eventual responsabilidad sobre el elemento esencial del contrato.
El autor-humano está obligado a actuar con lealtad y transparencia generándose sobre sus espaldas la obligación de informar que dentro del manuscrito existe intervención de la IA, para que así sea la contraparte (editorial) pueda tomar las decisiones del caso. La omisión de dicha información podría ser interpretada como una conducta contraria a la buena fe con consecuencias que claramente podrían desembocar en la resolución del contrato, entre otros.
Ahora bien, frente a esto se nos genera el interrogante de qué debe hacer el editor:
- confiarse de la cláusula de declaración del autor;
- exigir un nivel mayor de verificación previa aun cuando las herramientas existentes pueden no darle la veracidad necesaria.
Entiendo que frente a estos interrogantes la respuesta es: el editor debería ahondar en toda exigencia posible para con el autor y disminuir así los riesgos a futuro, declarando expresamente en el contrato las exigencias no solo de declaraciones del autor sino también de requisitos a cumplir con la entrega del manuscrito.
IV. Hacia un nuevo paradigma: transparencia, autoría y regulación de la inteligencia artificial
Por lo que hemos visto la IA en materia de generación de contenidos autorales ha llegado para quedarse y desarrollarse hasta límites que aun desconocemos. Luchar contra ello pareciera una tontería cuando no una inconsciencia, pero si esto exige una toma de conciencia y una regulación ad hoc que permita adecuarse precisamente a las nuevas tecnologías. El problema como vimos no está únicamente en que redefinamos el concepto de quién es autor o en la originalidad, sino en la necesidad de que se adapten las normas regulatorias al escenario donde la intervención humana ya no es tan importante. Está claro que mientras eso no suceda, los conceptos que hemos vertido al principio del presente siguen plenamente vigentes y seguiremos sosteniendo que la protección legal solo puede reconocerse a obras emanadas de un ser humano.
Uno de los temas importantes es tener en cuenta el fortalecimiento de lo que llamamos la transparencia y esto implica en principio la declaración del autor sobre su autoría y las sanciones en caso de que sea detectable la intervención de la IA. Pero como sabemos esto solo depende de la buena fe de los autores.
Quizás podamos pensar en un sistema en el cual exista injerencia de la IA, pero otorgándole algún tipo de autoría como sucede en principio en el régimen del Reino Unido de forma tal que sean obras que de antemano ya se sepa que son escritas por la IA y curadas por un ser humano. Sería una especie de género distinto en la cual se otorgaría una protección legal a ese tipo de obras.
Pero está clarísimo que todo esto está inserto en un régimen más profundo y más filosófico que afecta directamente al régimen de propiedad intelectual. Si la idea es motivar e incentivar la cultura habrá que definir nuevos conceptos para los contenidos generados por la IA y ver en qué medida se protegerá a los mismos.
Asimismo urge el desarrollo de nuevas herramientas que permitan descifrar con mayor certeza la existencia de contenidos realizados a través de la IA para que eventualmente el sistema probatorio sea más eficaz.
V. Conclusión
El caso Shy Girl no es un escándalo editorial aislado, sino el primer conflicto visible de una transformación estructural: el paso de un modelo de autoría humana presunta a uno donde la autoría debe ser acreditada.
Durante años, el sistema jurídico operó sobre una premisa tácita: la autoría podía discutirse, pero era, en última instancia, verificable. Mientras discutiéramos sobre autorías humanas, la prueba iba a fundarse en la existencia del plagio o no, fechas, y contenido creado. Pero ahora, la inteligencia artificial ha modificado este presupuesto de una manera estructural. Ya no se trata únicamente de determinar quién creó una obra, sino de enfrentar la creciente imposibilidad de acreditarlo con un grado razonable de certeza.
En este contexto, herramientas que operan sobre la base de inferencias probabilísticas no parecen ser, al menos por ahora, suficientes para sustentar decisiones jurídicas de relevancia. La consecuencia directa es una erosión del sistema probatorio que impacta no solo en el derecho de autor, sino también en la responsabilidad contractual y en la validez del consentimiento. Debemos tener en claro que la IA no elimina la figura del autor, pero sí la difumina. En esa opacidad, lo que se observa que comienza a desdibujarse no es solo la titularidad de la obra, sino la propia capacidad del derecho para distinguir y atribuir en su caso la responsabilidad.
En un mundo donde ya no es posible saber con certeza quién escribe, el verdadero problema jurídico no sería la autoría, sino pareciera comenzar a ser la prueba.
1. Libro “Shy Girl”- Editorial Hachette. https://www.theguardian.com/books/2026/mar/20/hachette-horror-novel-shy-girl-suspected-ai-use-mia-ballard?utm_source=chatgpt.com; https://people.com/publisher-cancels-shy-girl-horror-novel-ai-scandal-11930912?utm_source=chatgpt.com; https://ecosistemastartup.com/hachette-ia-y-el-caso-shy-girl-impacto-en-la-industria-editorial/?utm_source=chatgpt.com
2. Goodreads es una plataforma digital de lectura y recomendación de libros que permite a los usuarios registrar, calificar y reseñar obras literarias, así como interactuar en comunidades de lectores.
3. Saranowsky Isidro: “Derechos Intelectuales” T-I, pág 164 y ss- Edit. Tea
4. https://www.linkedin.com/pulse/arte-generativo-y-derecho-fernando-varela-2qfie/?trackingId=4/MOlabFt6vr6mEJ+9g59w==; https://www.linkedin.com/pulse/cuando-los-algoritmos-escriben-novelas-y-componen-operas-varela-dv46f/?trackingId=7n+PdYrEPFsSGr/RPwxMqw==; https://www.linkedin.com/pulse/el-vaivén-arte-y-la-ia-como-reflexión-proceso-fernando-varela-4kzcf/?trackingId=x2wAy4BAIPT1qIbaaqy3mQ==