\u201cLos algoritmos no crean la violencia, pero la vuelven rentable, visible y normalizable\u201d, dicen los estudios. Es decir, antes que los algoritmos hay personas generando un contenido incorrecto. Eso ocurri\u00f3 la \u00faltima semana y puso nuevamente a Grok y a Elon Musk en la pol\u00e9mica. Pero en un tema muy peligroso: el uso masivo de IA para generar im\u00e1genes sexuales no consensuadas. <\/p>\n\n\n\n
En cuesti\u00f3n de d\u00edas, X pas\u00f3 de ser una plataforma pol\u00e9mica pero convencional a convertirse, seg\u00fan diversos analistas, \u201cen uno de los mayores vectores de difusi\u00f3n de deepfakes sexuales\u201d, como dice el substack UserMag. Usuarios utilizaron Grok para \u201cdesnudar\u201d digitalmente a mujeres, hombres e incluso menores, generando miles de im\u00e1genes expl\u00edcitas en lapsos de tiempo extremadamente breves. El fen\u00f3meno no fue marginal. Se volvi\u00f3 viral y sistem\u00e1tico, desbordando los escasos mecanismos de moderaci\u00f3n de la plataforma. La frase “ponla en bikini” se populariz\u00f3 en X y algunos usuarios generaron im\u00e1genes pornogr\u00e1ficas.<\/p>\n\n\n\n
Esto llev\u00f3 a la justicia inglesa a legislar r\u00e1pidamente sobre c\u00f3mo castigar este tipo de uso de deepfakes. Indonesia y Malasia bloquearon Grok para prevenir el mal uso con menores de edad. India, Australia, Alemania y Brasil han emitido advertencias, investigaciones o presiones regulatorias para que X fortalezca las salvaguardias contra abusos de la herramienta.<\/p>\n\n\n\n
El caso Grok es un anticipo inc\u00f3modo del debate que viene. Mientras los l\u00edderes tecnol\u00f3gicos prometen un futuro para la productividad y la educaci\u00f3n, la realidad muestra que sin protecciones adecuadas la IA puede sacar lo peor de las din\u00e1micas sociales. Algo que ya han hecho las RRSS. Esto podr\u00eda ser a\u00fan peor. En EE.UU., una nueva ley podr\u00eda obligar a X a reforzar sus protecciones contra este tipo de intercambio de im\u00e1genes. La Ley de Retirada de Im\u00e1genes, aprobada el a\u00f1o pasado y que entrar\u00e1 en vigor en mayo, penaliza el intercambio de im\u00e1genes il\u00edcitas.<\/p>\n\n\n\n
An\u00e1lisis de actualidad realizado por\u00a0<\/em>Comsulting<\/strong>, expertos en comunicaci\u00f3n estrat\u00e9gica y gesti\u00f3n de crisis.<\/em><\/p>","protected":false},"excerpt":{"rendered":" An\u00e1lisis de tendencias de redes sociales<\/p>","protected":false},"author":4,"featured_media":6560,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"slim_seo":{"description":"X pas\u00f3 de ser una plataforma pol\u00e9mica pero convencional a convertirse \u201cen uno de los mayores vectores de difusi\u00f3n de deepfakes sexuales\u201d."},"footnotes":""},"categories":[1],"tags":[30,28,29],"class_list":["post-6559","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria","tag-redes-sociales","tag-tendencias","tag-viral"],"acf":[],"_links":{"self":[{"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/posts\/6559"}],"collection":[{"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/comments?post=6559"}],"version-history":[{"count":1,"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/posts\/6559\/revisions"}],"predecessor-version":[{"id":6561,"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/posts\/6559\/revisions\/6561"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/media\/6560"}],"wp:attachment":[{"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/media?parent=6559"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/categories?post=6559"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comsulting.cl\/en\/wp-json\/wp\/v2\/tags?post=6559"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}