¿Puede el diseño de una red social generar responsabilidad civil?

*Por Verónica A. Bruno

A partir del veredicto dictado en K.G.M. vs. Meta et al. se propone un interrogante interesante para el derecho argentino, si determinadas decisiones de diseño de las plataformas digitales pueden ser consideradas fuente de riesgo jurídicamente relevante cuando son utilizadas por niñas, niños y adolescentes (NNyA). En base a ese caso, el artículo examina el desplazamiento del debate desde la responsabilidad por contenidos de terceros hacia la responsabilidad por arquitectura de producto, especialmente frente a funcionalidades de captación atencional, personalización algorítmica y falta de advertencias.

1. Introducción

El litigio conocido como K.G.M. vs. Meta/YouTube permite observar un punto de inflexión en la discusión jurídica sobre los daños digitales. A diferencia de los casos clásicos en los que la responsabilidad de los intermediarios se examina a partir de contenidos ilícitos generados por terceros, en este caso se apuntó al diseño y operación de las propias plataformas. La cuestión no gira en torno a la remoción de contenidos dañosos publicados por terceros luego de la notificación; sino en determinar si ciertas funcionalidades [por ejemplo, reproducción automática, scroll infinito, notificaciones persistentes, filtros de belleza o sistemas de recomendación] pueden crear o agravar riesgos previsibles para usuarios menores de edad.

La relevancia para el derecho argentino se puede articular en tres planos: la protección reforzada de niñas, niños y adolescentes (NNyA), la responsabilidad empresarial por riesgos derivados de la tecnología y la función preventiva del derecho civil. El caso, aun no firme y sujeto a impugnaciones posteriores, ofrece una oportunidad para repensar la protección de las infancias en el entorno digital, desde un cambio de paradigma: de una justicia civil predominantemente reparadora, que interviene después del daño, hacia una justicia civil preventiva, capaz de ordenar conductas, rediseños, advertencias o medidas de mitigación antes de que el daño se consolide.

2. El caso K.G.M.: diseño de plataformas y falta de advertencia

En marzo de 2026, un jurado de Los Ángeles declaró responsables a Meta y Google/YouTube en un litigio promovido por una joven identificada como K.G.M. o Kaley G.M. Según los informes judiciales disponibles, la actora afirmó haber comenzado a utilizar YouTube a los seis años e Instagram a los nueve, y sostuvo que el uso compulsivo de esas plataformas contribuyó a agravar problemas de salud mental, entre ellos depresión, ansiedad, aislamiento social y dismorfia corporal (Associated Press, 2026).

La cautela metodológica es indispensable: no se cuenta, al momento, con una sentencia firme que desarrolle fundamentos doctrinarios completos. El material disponible actualmente, se obtuvo de los formularios de veredicto, reportes judiciales oficiales de la Corte de California y noticias especializadas. Sin embargo, el valor del caso reside en la estructura de responsabilidad que aceptó el jurado. Respecto de Meta y YouTube, se respondió afirmativamente que las empresas fueron negligentes en el diseño u operación de sus plataformas, que esa negligencia fue un factor sustancial del daño, que sabían o debían saber que el diseño u operación podía ser peligroso cuando era usado por NNyA en forma razonablemente previsible, y que omitieron advertencias adecuadas (Superior Court of California, County of Los Angeles, 2026a, 2026b).

El monto total informado ascendió a seis millones de dólares, entre daños compensatorios y punitivos, con una atribución mayor de responsabilidad a Meta que a YouTube (Associated Press, 2026; Courthouse News Service, 2026). Posteriormente, Meta solicitó dejar sin efecto el veredicto o disponer un nuevo juicio, invocando, entre otros argumentos, la protección de la Sección 230 de la Communications Decency Act -que limita la responsabilidad- alegando que la prueba se habría vinculado al contenido visto por la actora más que a las características de diseño (Reuters, 2026) y que las cuestiones de salud mental pueden ser multifactoriales. La discusión confirma que el núcleo del caso se encuentra en una frontera todavía debatida: distinguir responsabilidad por contenido de terceros de responsabilidad por diseño propio del producto digital.

3. Del contenido lesivo al diseño riesgoso

La importancia de K.G.M. va más allá del monto del veredicto. Más bien radica en el giro conceptual que propone. Durante años, muchas controversias sobre plataformas digitales se organizaron alrededor de la pregunta por el contenido: quién lo publicó, si era ilícito, cuándo fue notificada la plataforma y qué deber de remoción tenía. K.G.M. introduce un nuevo interrogante: ¿qué ocurre cuando el daño no proviene de una publicación individual, sino de un sistema diseñado para maximizar permanencia, retorno, exposición y recopilación de datos?

El punto no es afirmar que toda red social sea, por definición, riesgosa, ilícita o dañosa. Tampoco se trata de negar los beneficios del entorno digital para la educación, la comunicación, la participación o el acceso a información. La cuestión es más precisa: cuando una plataforma es utilizada por NNyA, sus decisiones de diseño no pueden evaluarse como si todos los usuarios fueran adultos plenamente informados, con igual capacidad de autocontrol, alfabetización digital y comprensión de los sistemas algorítmicos. La edad, la madurez, la vulnerabilidad evolutiva y las asimetrías de información son datos jurídicamente relevantes.

La Observación General núm. 25 del Comité de los Derechos del Niño sostiene que los derechos de NNyA deben ser respetados, protegidos y realizados también en el entorno digital, y que el interés superior debe orientar la regulación, provisión, diseño, gestión y uso de tecnologías digitales (Comité de los Derechos del Niño, 2021). Desde esa óptica, la responsabilidad empresarial no se agota en remover contenidos manifiestamente ilícitos, sino que incluye deberes de debida diligencia, evaluación de impacto, prevención y mitigación de riesgos vinculados con el propio funcionamiento del servicio.

4. Empresas tecnológicas y debida diligencia en derechos humanos

Los Principios Rectores de Naciones Unidas sobre Empresas y Derechos Humanos aportan un marco más amplio que el estrictamente resarcitorio. Su estructura se apoya en tres pilares: "Proteger, Respetar y Remediar". El deber del Estado de proteger frente a abusos de derechos humanos cometidos por terceros, la responsabilidad empresarial de respetar los derechos humanos y el acceso a mecanismos de reparación efectivos (OHCHR, 2011). Estos conceptos introducen el interrogante sobre qué empresa crea o agrava el riesgo, quién obtiene beneficio económico de la arquitectura de captación, quién posee información técnica para medir el impacto y quién se encuentra en mejor posición para prevenir o mitigar el daño.

La responsabilidad empresarial de respetar derechos humanos no equivale a convertir a la empresa en Estado, sino a exigirle que actúe con debida diligencia. Identificar, prevenir, mitigar y rendir cuentas por los impactos adversos que pueda causar o a los que pueda contribuir mediante sus actividades (OHCHR, 2011). Aplicado a plataformas utilizadas por NNyA, ello supone evaluar riesgos antes de lanzar o modificar funcionalidades, diseñar configuraciones por defecto más protectorias, advertir de modo comprensible, limitar prácticas especialmente intrusivas y habilitar canales de denuncia y reparación adecuados.

Esta perspectiva converge con el concepto de safety by design: la protección no debe agregarse ex post como una advertencia genérica o un centro de ayuda poco visible, sino incorporarse desde la arquitectura del producto. Si el sistema se diseña para reducir fricciones, automatizar reproducción, ofrecer recompensas variables y retener usuarios, la debida diligencia exige ponderar cómo esas decisiones impactan en sujetos con especial vulnerabilidad, como son los NNyA (Comité de los Derechos del Niño, 2021; eSafety Commissioner, s. f.; OHCHR, 2011).

5. Proyección en el derecho argentino: función preventiva y actividad riesgosa

La proyección de K.G.M. en el derecho argentino puede pensarse, principalmente, desde el Código Civil y Comercial de la Nación (CCCN). La función preventiva del derecho de daños, prevista en los arts. 1710 y 1711 CCCN, impone el deber de evitar causar un daño no justificado, adoptar medidas razonables para evitar que se produzca o disminuir su magnitud, y habilita acciones destinadas a impedir la producción, continuación o agravamiento del daño. Esta herramienta permite intervenir frente a riesgos ciertos o razonablemente previsibles, antes de la producción del daño. Siguiendo a Rossi (2017) el campo de aplicación de la acción preventiva es más amplio que la sola protección de derechos patrimoniales; puede utilizarse también a fin de prevenir daños contra derechos personalísimos o derechos de incidencia colectiva (p. 229). En el marco de la prevención de derechos personalísimos, pueden encuadrarse situaciones como la del caso KGM, donde se vieron vulnerados derechos fundamentales de una niña.

En paralelo, el art. 1757 CCCN regula la responsabilidad objetiva por el riesgo o vicio de las cosas y de las actividades riesgosas o peligrosas, por su naturaleza, por los medios empleados o por las circunstancias de su realización. La doctrina argentina ha destacado que la incorporación de las actividades riesgosas amplía el campo de la responsabilidad objetiva, pues permite mirar no sólo la cosa aislada, sino la actividad organizada, los medios empleados y las circunstancias en que se desarrolla. Se considera riesgosa la actividad en la que el riesgo es derivada de tareas, servicios, productos, sustancias o prestaciones útiles para la sociedad que generan para sus sueños o beneficiarios un provecho, generalmente, económico (Galdós, 2016).

La pregunta no debería formularse en términos absolutos -si toda red social es siempre riesgosa-, sino en términos funcionales: si determinadas arquitecturas de diseño, utilizadas por las infancias y adolescencias, crean o incrementan riesgos específicos para la salud mental, la autonomía, la privacidad, la identidad o la integridad psíquica. En esa hipótesis, es dable realizar el análisis desde el riesgo creado, sin desconocer la necesidad de probar daño, relación causal y previsibilidad. En similar sentido, se ha señalado que el caso abre una discusión local sobre la posible aplicación del art. 1757 del CCCN a redes sociales (Errepar, 2026) cuando el riesgo deriva de mecanismos de diseño orientados a generar permanencia o compulsión.

En este orden de ideas, la teoría del riesgo creado, enfatiza en el hecho de que alguien cree un riesgo, lo conozca o lo domine. Quien realiza esta actividad debe cargar con los resultados dañosos que ella genere. Se trata de actividades lícitas y en la mayoría de los casos socialmente valiosas y convenientes, pero que por distintos factores pueden convertirse en fuente generadora de daños, creando un riesgo potencial (Pizarro y Vallespinos, 2019, p. 234). Por otro lado, según la teoría del riesgo beneficio, quien realiza una actividad riesgosa y obtiene un beneficio con ello, debe soportar objetivamente, como equitativa contrapartida, las consecuencias dañosas que aquéllas produzcan. Esta noción ha sido vinculada a la creación de riesgos que emanan de las actividades de una empresa. Por último, es dable señalar el riesgo de empresa propiamente, que puede actuar como un factor de atribución objetivo cualificado, que potencia el deber de resarcir, estableciendo, por ejemplo, eximentes más limitadas (Pizarro y Vallespinos, 2019, p. 237).

Volcados estos preceptos al tema propuesto, se pone el foco en quién organiza la actividad, quién obtiene beneficio económico de ella, quién domina técnicamente el sistema y quién se encuentra en mejor posición para prevenir el daño. En el ecosistema de plataformas, las familias pueden acompañar y orientar, pero no auditar algoritmos, acceder a documentación interna ni rediseñar sistemas de recomendación. Por ello, la corresponsabilidad no puede transformarse en traslado del costo preventivo a los propios NNyA o a sus progenitores. La carga preventiva debe distribuirse según capacidad real de control, información y beneficio.

6. Jurisprudencia argentina: antecedentes útiles, pero con una diferencia decisiva

La jurisprudencia argentina sobre buscadores ofrece antecedentes parciales, aunque no idénticos. Para ejemplificar brevemente, en Denegri, la Corte Suprema de la Nación (CSJN, 2022) rechazó una pretensión de desindexación amplia vinculada con contenidos lícitos de interés público, priorizando la libertad de expresión. En Weber, en cambio, quedó firme una condena contra buscadores por la falta de diligencia frente a contenidos que vinculaban indebidamente la imagen de la actora con sitios sexuales (CSJN, 2025).

Ambos precedentes son relevantes porque muestran que la responsabilidad de intermediarios digitales en Argentina no es una cuestión ajena al derecho vigente. Sin embargo, tienen un límite importante para el tema aquí analizado: no involucraban víctimas menores de edad.

En P.A.E. c/ Facebook Argentina S.R.L. s/ medida autosatisfactiva, la Cámara Federal de Mendoza, Sala “B” ordenó a Facebook remover publicaciones donde se veía afectado el honor los hijos menores de edad del actor, debiendo el accionante denunciar las URLs exactas. El fallo es importante por reconocer a Facebook las mismas obligaciones que a los buscadores. No obstante el reconocimiento de responsabilidad de la empresa, la Cámara entendió inadmisible la pretensión de imponer a la demandada un control preventivo y discrecional hacia el futuro, por comprometer derechos constitucionales.

Sin perjuicio de los antecedentes citados, se postula que cuando el usuario afectado es un NNyA, el análisis debe incorporar el interés superior del niño, la protección especial, la autonomía progresiva y la mayor exigencia de diligencia frente a riesgos previsibles. Por ello,  los antecedentes jurisprudenciales citados, y tantos otros en la misma línea, apenas ofrecen un punto de partida para discutir cómo podría evolucionar la respuesta judicial cuando el conflicto no gira sólo en torno a contenidos, sino también en torno a diseño, salud mental y riesgo creado.

El giro que propone K.G.M. es, precisamente, mirar más allá de la remoción posterior de contenidos. Abriendo camino al análisis sobre los deberes preventivos que puede tener la plataforma respecto de la arquitectura que ella misma diseña, explota y monetiza.

7. Cierre

El caso K.G.M. v. Meta/YouTube no debe ser importado acríticamente al derecho argentino. Se trata de un veredicto de jurado, no de una sentencia firme con doctrina consolidada, y pertenece a un sistema jurídico distinto. Sin embargo, su valor reside en abrir una discusión que el derecho argentino no puede ignorar: la eventual responsabilidad de las plataformas por riesgos derivados de su propio diseño cuando sus servicios son utilizados por NNyA.

Si la arquitectura digital es técnicamente diseñada, económicamente explotada y razonablemente previsible en sus efectos, la omisión preventiva deja de ser neutral. El desafío consiste en construir una respuesta equilibrada: proteger la innovación, la libertad de expresión y el acceso a tecnologías, pero sin permitir que esas finalidades operen como excusa para invisibilizar daños previsibles sobre sujetos de tutela reforzada. En esa línea, los arts. 1710, 1711 y 1757 del Código Civil y Comercial, junto con los Principios Rectores de Naciones Unidas sobre Empresas y Derechos Humanos, ofrecen una base normativa y ética suficiente para comenzar a discutir una responsabilidad civil orientada no sólo a reparar, sino también a prevenir.

El posible cambio de paradigma está en pasar de una justicia civil que llega para resarcir, cuando el daño ya se consolidó, a una justicia civil que pueda intervenir sobre el riesgo, exigir diligencia empresarial y ordenar diseños más seguros. El ordenamiento jurídico argentino provee las herramientas necesarias. Para las infancias en la era digital, esa diferencia puede ser decisiva.

Referencias

Argentina, Congreso de la Nación. (2014). Ley 26.994. Código Civil y Comercial de la Nación. Boletín Oficial de la República Argentina.

Associated Press. (2026, 25 de marzo). Jury finds Instagram and YouTube liable in a landmark social media addiction trial. AP News. https://apnews.com/article/social-media-addiction-trial-la-5e54075023d837ccdc76c4ca512e925d

Cámara Federal de Mendoza, Sala B. (2019). P.A.E. c/ Facebook Argentina S.R.L. s/ medida autosatisfactiva. Sentencia del 24 de mayo de 2019.

Comité de los Derechos del Niño. (2021). Observación general núm. 25 relativa a los derechos de los niños en relación con el entorno digital (CRC/C/GC/25). Naciones Unidas.

Corte Suprema de Justicia de la Nación. (2022). Denegri, Natalia Ruth c/ Google Inc. s/ derechos personalísimos: acciones relacionadas, Fallos: 345:482.

Corte Suprema de Justicia de la Nación. (2025). Weber, Natali Carol c/ Yahoo de Argentina SRL y otro s/ daños y perjuicios, CIV 11919/2012/2/RH2, sentencia del 19 de junio de 2025.

Courthouse News Service. (2026, 25 de marzo). Meta and Google hit with $6 million verdict for social media harms to young woman. https://www.courthousenews.com/meta-and-google-hit-with-6-million-verdict-for-social-media-harms-to-young-woman/

Errepar. (2026, 26 de marzo). La Justicia condenó a Meta y Google por provocar adicción a los niños con sus redes. https://documento.errepar.com/actualidad/la-justicia-condeno-a-meta-y-google-por-provocar-adiccion-a-los-ninos-con-sus-redes-20260326160732787

eSafety Commissioner. (s. f.). Safety by Design. Australian Government. https://www.esafety.gov.au/industry/safety-by-design

Galdós, J. M. (2016). Responsabilidad por actividades riesgosas y peligrosas en el nuevo Código Civil y Comercial. La Ley, (56) 2016B,  ISSN 0024-1636.

Pizarro, R. D., & Vallespinos, C. G. (2019). Manual de responsabilidad civil (T. I). Rubinzal-Culzoni.

Reuters. (2026, 6 de mayo). Meta asks California judge to throw out landmark social media addiction verdict. https://www.reuters.com/legal/litigation/meta-asks-california-judge-throw-out-landmark-social-media-addiction-verdict-2026-05-06/

Rossi, J. O. (2017) Derecho de consumidores y usuarios: el sistema general y el microsistema especial del derecho de consumo. DyD.

Superior Court of California, County of Los Angeles. (2026a, 25 de marzo). P.F., et al. (K.G.M.) v. Meta Platforms, et al.: Verdict Form-Meta. https://www.crowell.com/a/web/b3HgCKaRwDn5JSu1FVt4Vg/verdict-form-meta.pdf

Superior Court of California, County of Los Angeles. (2026b, 25 de marzo). P.F., et al. (K.G.M.) v. Meta Platforms, et al.: Verdict Form-YouTube. https://www.crowell.com/a/web/dDeD9AxfxqDSy7X2L3d3n5/verdict-form-youtube.pdf

United Nations Office of the High Commissioner for Human Rights. (2011). Guiding Principles on Business and Human Rights: Implementing the United Nations “Protect, Respect and Remedy” Framework. United Nations.

*Abogada (UM), Doctoranda en Cs. Jurídicas (UNLAM), Diplomada en Constitución y Derecho (Universita di Bologna), Diplomada en IA y derecho (Universidad de la Ciudad de Bs. As.), Diplomada internacional en Derecho Constitucional y Magistratura (UNO). Profesora adjunta de las materias Derecho Civil I (UNO), Derecho Civil III (UNO y UM) y Derecho Procesal Civil y Comercial (UADE).-