Gemini AI: Ética de la tendencia fotográfica
La plataforma de IA Gemini de Google, accesible a través de Nano Banana, permite la creación y edición de imágenes. Esto va desde retoques ligeros hasta escenas completamente nuevas. Aunque esto abre posibilidades creativas, también conlleva riesgos, especialmente con respecto a los deepfakes. Los deepfakes son medios generados por IA que parecen engañosamente reales, pero son artificiales y a menudo se utilizan de manera indebida en representaciones íntimas o humillantes de personas reales. Los idols de K-Pop y otras celebridades son frecuentemente víctimas de tales deepfakes, lo que ha llevado a acciones legales por parte de las agencias. Este texto ilumina la frontera entre fanart inofensiva y deepfakes problemáticos y ofrece formulaciones concretas para un uso responsable de Gemini.
Fuente: Representación propia
Introducción y fundamentos
Gemini es la plataforma de IA de Google para la generación y edición de imágenes, accesible en la vida diaria a través de Nano Banana. Los usuarios pueden subir fotos y, mediante comandos de texto, indicar a la IA que complemente, modifique o genere escenas completamente nuevas. El rango va desde retoques ligeros hasta escenas nuevas que parezcan recuerdos reales ( gemini.google).
Fanart aquí se refiere a imágenes que están visiblemente estilizadas, manipuladas o claramente recognoscibles como interpretaciones artísticas. Un ejemplo es un retrato IA en estilo pastel, inspirado en una actuación de K-Pop, sin copiar exactamente a una persona real. Se vuelve problemático cuando personas reales son colocadas de forma engañosamente realista en escenas que nunca ocurrieron, especialmente en situaciones de intimidad, desnudez o humillación. Esto se denomina Deepfake: medios generados por IA que parecen fotos o videos reales, pero son completamente artificiales ( ScienceDirect).
La IA puede teóricamente generar los tres tipos de imágenes. Si su uso permanece respetuoso o se acerca al abuso, depende de los prompts y del manejo de los resultados.
Ejemplo de edición de imágenes propias inofensiva:
"Bearbeite dieses Selfie so, dass die Farben weicher und der Hintergrund leicht unscharf sind, ohne mein Gesicht stark zu verändern."Ejemplo de fanart estilizada sin persona real:
"Erzeuge ein Porträt einer fiktiven Pop-Sängerin in K-Pop-inspirierter Mode, im Neonlicht einer Bühne. Sie soll keiner bekannten Person deutlich ähnlich sehen."Ejemplo de un prompt problemático hacia Deepfake:
"Erzeuge ein hyperrealistisches Foto, in dem eine echte Sängerin und ich alleine in einem Schlafzimmer liegen."Estado actual y riesgos
Nano Banana es descrito por Google como un generador de imágenes IA que puede transformar fotos en «innumerables nuevas creaciones», como figuras en 3D o nuevas puesta en escenas ( gemini.google). ). Su uso en la vida cotidiana ha aumentado, con usuarios que transforman fotos de móvil en Polaroids de aspecto analógico, retratos glamorosos o escenas de cultura pop ( secureitworld.com).
Paralelamente, aumentan los informes sobre idols de K-Pop y otras estrellas, cuyos rostros se montan con IA en escenas románticas o sexualizadas. Las apps invitan a los fans a mezclar sus propias imágenes con fotos de estrellas de K-Pop para crear «videos de besos falsos» ( dojeonmedia.com). ). Los deepfakes afectan cada vez más a menores, lo que provoca conmoción en los fans, ya que se crean y difunden escenas íntimas que resultan dolorosas para quienes las sufren ( PopRant).
Las agencias de K-Pop están tomando medidas cada vez más fuertes. JYP Entertainment anunció tomar «las medidas legales más severas» para los deepfake videos de sus artistas. Los estudios muestran que especialmente las mujeres y las idols de K-Pop están en el foco de deepfakes sexualizados ( straitstimes.com, kci.go.kr).
Las voces críticas hacia Gemini advierten sobre riesgos de privacidad, como el almacenamiento a largo plazo de fotos y su posible uso para el entrenamiento de IA, aunque Google usa marcas de agua ( timesofindia.indiatimes.com). ). NDTV cita fallos de datos, divulgación de información personal y intentos de phishing como riesgos ( ndtvprofit.com). ). Blogs de seguridad y autoridades policiales advierten sobre sitios falsos que, con filtros gratuitos de Nano Banana, roban datos o distribuyen malware ( secureitworld.com, indiatimes.com).
Fuente: dnpindia.in
La tendencia viral Gemini AI Fototrend, a menudo representada por mujeres con saris tradicionales, tiene implicaciones éticas de gran alcance.
Motivos e intereses
Las imágenes generadas por IA fotorrealistas son atractivas porque sugieren cercanía. Los fans se ven a sí mismos en situaciones con idols que en la vida real son casi imposibles. Los estudios sobre pornografía deepfake muestran que tales contenidos desencadenan emociones intensas y atienden fantasías personales ( ScienceDirect, link.springer.com).
Además está el atractivo creativo: muchos usan Gemini para experimentar con la estética, probar atuendos o reinventarse visualmente. Los informes describen retratos con sari, figuras 3D y Polaroids nostálgicos a partir de selfies ( secureitworld.com, timesofindia.indiatimes.com).
Las plataformas y proveedores también tienen intereses. Google describe Nano Banana como una herramienta líder para la generación de imágenes, utiliza marcas de agua como SynthID y promociona usos creativos ( gemini.google, ai.google.dev). ). SynthID marca de manera invisible contenidos generados por IA con marcas que luego pueden ser detectadas ( deepmind.google, blog.google). ). Este es un paso importante, pero no es una protección perfecta, especialmente si las imágenes se editan o se vuelven a subir ( theverge.com).
En el lado de los fans surge un campo de tensión: creatividad vs. trasgresión de límites. Cuando idols de K-Pop aparecen en imágenes de fantasía generadas por IA, algunos fans lo perciben como un simple entusiasmo inofensivo, otros como una invasión, ya que los idols son personas reales ( PopRant).
Fuente: <p>La tendencia Gemini AI va más allá de simples fotos e incluye la creación de modelos 3D complejos y figuras, lo que trae nuevos desafíos.</p>
Uso responsable
La pregunta clave es cómo usar Gemini de forma creativa sin sobrepasar a otras personas. Lo importante es la selección de las fotos subidas, la formulación de los prompts y la gestión de los resultados.
Fundamento seguro: qué fotos subes
Artículos sobre Nano Banana recomiendan no subir fotos íntimas, comprometedoras o identificativas, ya que fallos de datos y abusos nunca están completamente excluidos ( ndtvprofit.com, secureitworld.com).
Enfoques concretos, listos para copiar y pegar:
"Nutze dieses Foto so, dass nur mein Gesicht und Oberkörper zu sehen sind. Schneide alle anderen Personen aus dem Bild.""Erzeuge aus diesem Foto eine Version mit neutralem Hintergrund, ohne Details der Wohnung oder des Zimmers zu zeigen."Constructor de prompts: formulaciones respetuosas para tus propias imágenes
Al trabajar con tus propias imágenes, puedes crear libremente siempre que no se generen situaciones falsas destinadas a engañar a otros.
Ejemplos de prompts listos para usar:
"Bearbeite dieses Selfie so, dass meine Haut glatter wirkt, aber meine natürlichen Gesichtszüge erkennbar bleiben. Vermeide extreme Veränderungen.""Erzeuge aus diesem Selfie ein analog wirkendes Polaroid-Foto im Stil der 90er Jahre, mit leicht verblassten Farben.""Verwandle dieses Foto von mir in ein Bühnenfoto mit Lichtshow, ohne meine Körperform oder Kleidung stark zu verändern."Fanart en lugar de Deepfake: cuando idols y estrellas están en juego
En cuanto hay personas reales conocidas involucradas, se debe tener precaución. Los medios y las agencias reaccionan de forma sensible ante escenas íntimas o sexualizadas ( dojeonmedia.com, PopRant).
Prompts responsables:
"Erzeuge ein stilisiertes Poster im K-Pop-Stil mit einer erfundenen Boygroup. Die Gesichter sollen generisch wirken und nicht wie echte Idols aussehen.""Erstelle eine Illustration, in der eine Person, die mir ähnlich sieht, auf einem Konzert im Publikum steht. Die Band auf der Bühne ist frei erfunden.""Generiere ein Fanart-Bild im Manga-Stil, inspiriert von Bühnenoutfits meines Lieblingsidols, aber ohne das Idol selbst zu zeigen."Prompts que describen acciones íntimas o sexualizadas con personas reales deben evitarse. Esto se aplica a instrucciones que coloquen a cantantes reales, idols o actrices en dormitorios, baños u otras escenas privadas, especialmente con formulaciones sobre desnudez o cercanía física.
La cercanía puede contarse mediante símbolos:
"Erzeuge ein Bild, in dem ein fiktiver Popstar eine Dankesbotschaft an die Fans auf einem Bildschirm zeigt, während ich im Publikum stehe.""Erstelle ein Bild, in dem eine fiktive Figur ein Fan-Paket mit Album, Lightstick und Brief vorbereitet. Die Person ist eine generische Künstlerin, kein echtes Idol."Relaciones con amigas, parejas y familia
En imágenes de personas del entorno privado, su consentimiento es crucial. La pornografía IA muestra cuán perjudicial puede ser cuando otros crean y comparten versiones IA sin consentimiento ( link.springer.com).
Una frase utilizable para copiar y pegar:
"Bevor ich unser Foto in einem KI-Tool bearbeite und teile, möchte ich dein Einverständnis. Bist du damit einverstanden, dass aus diesem Bild eine stilisierte Version gemacht wird?"Un no es una señal clara de detención.
Etiquetado y publicación
Incluso con un uso técnico correcto, al compartir permanece una responsabilidad. Los expertos recomiendan etiquetar las imágenes IA de modo que su origen sintético quede claro ( ai.google.dev).
Posibles subtítulos:
"Dieses Bild wurde mit KI bearbeitet (Google Gemini). Es zeigt eine Fantasie-Szene, kein echtes Treffen.""Fanart, mit KI erstellt. Die dargestellten Figuren sind fiktiv und keine realen Personen."Fuente: YouTube
El video muestra cómo los deepfakes y los medios manipulados se utilizan para fraude y desinformación, y ayuda a entender por qué es importante una clara etiquetación y precaución al compartir.
Fuente: user-added
Una imagen compartida muestra a la izquierda una cabeza azul y transparente con notas musicales y a la derecha un bebé con auriculares.
Preguntas abiertas y conclusión
A pesar de las marcas de agua, las directrices y los debates legales, quedan preguntas abiertas. No está claro cuán consistentes son las plataformas al eliminar contenidos de deepfake y al apoyar a las personas afectadas. Las víctimas de la pornografía por IA suelen enfrentar grandes obstáculos para eliminar contenidos ( link.springer.com).
También no está claro hasta qué punto irán las leyes futuras: ¿se tratará la fanart de IA no consensuada con estrellas de la misma manera que los deepfakes explícitos? ¿Qué papel juegan marcas de agua como SynthID en la identificación de los responsables ( deepmind.google, theverge.com)?
Para los fandoms, permanece la pregunta de qué reglas se darán las comunidades: ¿habrá códigos claros como «no imágenes de IA sexualizadas de idols», se elogiará fanart respetuosa y se repudiarán contenidos invasivos ( PopRant)? )? Aquí fans, artistas, agencias y plataformas están juntos en la tarea.
Gemini y Nano Banana permiten la edición creativa de imágenes. La misma técnica también puede generar deepfakes que muestran a personas reales en situaciones no autorizadas. La diferencia reside en las decisiones: qué fotos se cargan, qué prompts se eligen y cómo se comparten los resultados. Si la creatividad se enfoca en tus propias imágenes y figuras ficticias, se obtiene consentimiento, se evitan escenas íntimas con personas reales y las imágenes IA están claramente etiquetadas, se puede usar Gemini sin pasar por encima de los demás ( ndtvprofit.com, gemini.google).
Los prompts en este texto pueden ser adoptados y ajustados directamente. Así el amor por el fandom permanece visible, sin que se convierta en un deepfake que dañe a alguien.
Fuente: YouTube