Mi Blog

mayo 3, 2023

Technology
Adriana P

Alguien ha creado un monstruoso anuncio de cerveza con IA. El Valle Inquietante ha llegado para quedarse

Alguien ha creado un monstruoso anuncio de cerveza con IA. El Valle Inquietante ha llegado para quedarse

ChatGPT es capaz de crear textos que difícilmente podríamos diferenciar de los creados por un ser humano. Lo mismo ocurre con Stable Diffusion, DALL-E 2 o sobre todo Midjourney, que son capaces de crear imágenes que parecen reales. ¿Qué pasa entonces con el vídeo?

Pues que por el momento este tipo de contenido se le resiste a las IAs generativas. Es posible crear vídeos con IA, sí, pero quienes están experimentando con este ámbito están viendo que (de momento) los vídeos generados pueden llegar a ser terroríficos.

Lo demuestra un pequeño spot publicitario de 30 segundos llamado ‘Synthetic Summer‘ creado por Helen Power y Chris Boyle, de la productora Private Island. Su objetivo era crear un anuncio de una hipotética marca de cerveza, pero el resultado es, como poco, monstruoso e inquietante.

En el vídeo —con la célebre canción ‘All Star’ de Smash Mouth de fondo— se ve cómo un grupo de personas parecen estar disfrutando de una barbacoa en la que todos están bebiendo una especie de cerveza (o quizás refresco) que es claramente la protagonista del anuncio.

La idea no es nueva, pero a partir de ese concepto uno aprecia cómo todo en este vídeo es extraño y casi aterrador. Las personas tienen caras, gestos y expresiones deformadas, y también pasan cosas raras con los vasos de cerveza, que se convierten en latas de cerveza o tienen formas imposibles. El propio fuego de la barbacoa es extraño y monstruoso, como también lo es la forma en la que se beben esa cerveza y todo en el vídeo inquieta por su aspecto surrealista y deforme.

Pero claro, todo lo que se muestra en el anuncio ha sido generado por una IA. Según Ars Technica, aunque los creadores no han detallado el proceso es probable que hayan usado el modelo de IA creado por Runway y llamado Gen-2. Con él es posible crear pequeños clips de vídeo a partir de ‘prompts’ de texto, como sucede con ChatGPT para el texto o con Midjourney para las imágenes.

El vídeo se ha hecho viral en redes sociales, y lo más destacable es precisamente lo terrible que es. Quienes tienen acceso a la beta cerrada de Gen-2 llevan tiempo confirmando que se pueden obtener resultados decentes (sobre todo, si son de conceptos más abstractos) y terroríficos si uno le dedica a este motor de IA el tiempo suficiente, pero también es cierto que la calidad de los clips —y su longitud— los hace por el momento estar a mucha distancia del realismo y calidad que se consigue con textos o imágenes.

Esta no es no obstante la primera vez que se intenta crear un anuncio publicitario con esta tecnología: hace unos días alguien llamado ‘Pizza Later’ publicó en Twitter un vídeo creado también con Gen-2. La idea, la de mostrar un restaurante ficticio llamado ‘Pepperoni Hug Spot’ en el que se veía a la gente comer (más o menos) pizza (más o menos).

El creador de hecho comentó cómo generó el guión con GPT-4, y además de Gen-2 para el vídeo usó Midjourney para las imágenes estáticas y un sistema de síntesis de voz de la empresa Eleven Labs. Luego lo mezcló todo con Adobe After Effects y el resultado, como se puede ver en el vídeo incrustado en el tuit, es tan inquietante como el del anuncio de la cerveza.

Son varios los usuarios que están mostrando su particular creatividad en este ámbito. Un usuario de Reddit llamado Visiblemaker publicaba la semana pasada ‘The Great Catspy’, un tráiler creado con Gen-2 que mostraba una potencial película de ficción. Según el creador, “no sólo se inspira en el gran trabajo del director de Hollywood Baz Luhrman, sino que pretende ser una declaración a la industria cinematográfica para que vigile y siga de cerca la revolución de la inteligencia artificial”. La industria —con Bruce Willis a la cabeza— está tomando nota, desde luego.

Lo cierto es que estos ejemplos son terribles y hasta cierto punto cómicos, pero lo realmente asombroso es que esta tecnología solo tiene un mes de vida. No parece difícil imaginar un futuro próximo en el que generar toda una película a través de la IA sea posible. Una que podría ser difícilmente distinguible de cualquier producción actual con actores humanos.

En Xataka | ¿Qué robot te causa más temor? El test del Valle Inquietante


La noticia Alguien ha creado un monstruoso anuncio de cerveza con IA. El Valle Inquietante ha llegado para quedarse fue publicada originalmente en Xataka por Javier Pastor .

Technology
Adriana P

Samsung acaba de prohibir el uso de ChatGPT a sus empleados. Le están contando cosas que no deberían

Samsung acaba de prohibir el uso de ChatGPT a sus empleados. Le están contando cosas que no deberían

Cuando estás usando ChatGPT probablemente no te das cuenta, pero lo normal es que introduzcas datos de todo tipo para resolver tu problema. Algunos de ellos pueden ser sensibles, y eso, que es ciertamente delicado en el caso de usuarios finales, lo es aún más en el caso de los usuarios empresariales, como ha descubierto la multinacional surcoreana Samsung.

Qué ha pasado. Como indican en CNBC, Samsung está restingiendo el uso de modelos de IA generativa como ChatGPT entre sus empleados. La empresa ha descubierto que su plantilla está haciendo un mal uso de esta herramienta, y sus responsables confirmaban en este medio que estaban “restringiendo temporalmente” el uso de estos sistemas en los ordenadores personales de la compañía. Ya habían hecho este movimiento en sus fábricas de chips hace semanas.

Cuidado con ChatGPT. La empresa informó a sus empleados en un comunicado interno a finales de abril y les indicó que había detectado un uso inadecuado de la herramienta. En Bloomberg indicaban cómo a principios de abril ingenieros de Samsung filtraron accidentalmente código de Samsung al subirlo a ChatGPT. No se conocen detalles sobre el código y su impacto al haberse filtrado.

Datos confidenciales que acaban donde no deben. En ese comunicado interno los responsables de Samsung indicaban que “el interés por las plataformas de IA generativa, como ChatGPT, ha ido creciendo tanto interna como externamente. Aunque este interés se centra en la utilidad y eficiencia de estas plataformas, también existe una creciente preocupación por los riesgos de seguridad que presenta la IA generativa”.

Si lo usas puedes acabar despedido. Los responsables de Samsung dejaban también claro en su mensaje el riesgo que implicaba usar esta herramienta a partir de ahora. Además de solicitar que los empleados siguieran sus normas de seguridad, avisaban de que no hacerlo puede tener como resultado “una acción disciplinaria que puede llegar a ser el despido”.

Samsung no es la primera (y no será la última). Otras empresas ya tomaron medidas similares ante el peligro de que datos confidenciales acaben en ChatGPT. Entidades financieras como JPMorgan Chase & Co, Bank of America y Citigroup —entre otros— prohibieron o restringieron su uso en febrero. La realidad es que el modelo creado por OpenAI no sabe guardar secretos y existen ya vectores de ataque para aprovechar esas vulnerabilidades. Las empresas comienzan a tener claro los riesgos de usar este y otros modelos como Bing con ChatGPT o Google Bard. JP Morgan de hecho anunciaba hace unos días su propia IA para analizar los anuncios de la Reserva Federal de EEUU.

ChatGPT en modo “Incognito”. OpenAI, creadora de ChatGPT, sabe bien que este problema existe, y está tomando medidas para evitar o al menos minimizar el riesgo. La semana pasada se anunció la llegada lo que algunos calificaron como un “modo Incognito” para ChatGPT. Al activarlo, ChatGPT no almacena el historial de conversación ni lo usa para mejorar sus prestaciones.

Y preparan más medidas. La empresa también está preparando un servicio de suscripción a “ChatGPT Business” con controles adicionales de seguridad para evitar que información sensible pueda filtrarse, de modo que las empresas puedan aprovechar el potencial de esta solución sin riesgos. Esta y otras medidas se activaron en parte como respuesta a la situación de ChatGPT en Europa. Italia decidió prohibirlo a nivel nacional aunque ha levantado el veto, y otros países europeosEspaña incluida— se plantean hacer exactamente lo mismo.

Microsoft prepara su jugada. Mientras tanto, Microsoft tuvo buen cuidado de tener muy en cuenta este tema cuando presentó Microsoft 365 Copilot, su evolución de Office que aprovecha la potencia de ChatGPT pero que lo hace de una forma especial: restringiendo el alcance del modelo de IA para que los datos confidenciales con los que se trabaja en esas aplicaciones no salgan de la empresa.

Imagen: DennisM2

En Xataka | GPT-4 es un salto de nivel brutal respecto a ChatGPT: nueve ejemplos para comprobarlo en persona


La noticia Samsung acaba de prohibir el uso de ChatGPT a sus empleados. Le están contando cosas que no deberían fue publicada originalmente en Xataka por Javier Pastor .