El creador de Black Mirror, Charlie Brooker, habla sobre inteligencia artificial, tecnología y creatividad

Archivado en:

Una charla con Charlie Brooker sobre la inteligencia artificial, la creatividad y por qué la tecnología puede ser como desarrollar una extremidad extra.

Es difícil recordarlo, pero en 2011, muchos de nosotros nos sentíamos bastante bien con nuestros señores de Silicon Valley. El iPhone se estaba generalizando, Facebook parecía un lugar divertido para compartir ideas y Twitter iba a liberarnos de alguna manera de los tiranos.

Ese fue también el año en que Black Mirror debutó en el Reino Unido (llegaría a Netflix en los EE. UU. cinco años después) y ofreció un punto de vista diferente: ¿Qué pasaría si todas estas cosas nuevas y brillantes no fueran buenas para nosotros en absoluto?

Desde entonces, hemos tenido un verdadero análisis de la tecnología o, como mínimo, nuestras opiniones sobre la tecnología se han vuelto mucho más complicadas.

Resulta que esa es la forma en que el creador de Black Mirror, Charlie Brooker, siempre se ha sentido acerca de estas cosas: "Me encanta la tecnología, me encantan las computadoras", me dijo esta semana en el podcast de Recode Media. “Pero también soy una persona que se preocupa por naturaleza. Soy alguien que catastrofiza en un abrir y cerrar de ojos. Por eso, a menudo me preocupa que algún nuevo desarrollo o artilugio nos dé poder y la responsabilidad que eso conlleva. Y qué fácil es hacer un mal uso de eso, o de las consecuencias no deseadas o de las consecuencias obvias y torpes. ... Por lo general, nuestras tecnologías ceden con una mano y con la otra nos golpean en la nuca”.

Brooker a menudo recibe crédito por crear guiones que parecen inquietantemente proféticos sobre temas que estamos a punto de enfrentar, y lo logró nuevamente con la temporada más nueva de Black Mirror, que debutó a principios de este verano. Su primer episodio, que se emitió en Netflix justo cuando los escritores y actores comenzaron a preocuparse de que Hollywood quisiera reemplazarlos con IA, presenta a una ejecutiva de tecnología que descubre que su vida se ha convertido en un programa al estilo de Netflix que ha sido creado en su totalidad por una IA. .

Peter Kafka informa sobre la colisión de los medios y la tecnología.

Revise su bandeja de entrada para recibir un correo electrónico de bienvenida.

Ups. Algo salió mal. Por favor, introduce un correo electrónico válido e inténtalo de nuevo.

Brooker, como era de esperar, no está muy interesado en utilizar la IA para ayudar a crear sus programas. Pero como comentamos, hay algunos matices ahí: la tecnología de IA generativa actual utiliza imágenes y texto existentes para ayudar a crear cosas nuevas, o al menos novedosas. Y escritores como Brooker siempre han utilizado el trabajo de otras personas para inspirar el suyo. O en sus palabras: “aspirando algo como parásito”, escribió alguien más. Pero no esperaría una versión ChatGPT de Black Mirror en el corto plazo.

Puede leer extractos de nuestra conversación, editados para mayor extensión y claridad, a continuación, y puede escucharlo completo aquí.

¿Qué opinas del hecho de que la gente utilice Black Mirror como abreviatura de “distopía tecnológica”?

Por un lado estoy encantado, evidentemente. Es publicidad gratuita para el espectáculo. Pero igualmente, a menudo es deprimente a nivel humano que esas sean las cosas que estamos viendo y a las que nos enfrentamos la mayor parte del tiempo.

Pero no siempre se trata de tecnología. Cuando la gente dice eso, a veces se refieren a una situación jodida. La gente suele decir "espejo negro" como abreviatura de una situación jodida. Si miras nuestro primer episodio con el primer ministro y el cerdo, esa es la definición misma de una especie de situación jodida.

¿Qué opinas del hecho de que has estado haciendo este programa durante más de una década y es muy popular, por lo que claramente la gente en Silicon Valley lo ha visto? Y estás diciendo: “Esta visión del futuro que tengo es mala. Esto no está bien." Y luego [los ejecutivos de tecnología] salen y dicen: “Creemos que esto es genial. Vamos a producir esto”. Ya sean gafas de realidad virtual o personas generadas por IA o lo que sea. ¿Qué opinas de esa desconexión?

Una cosa que diría es que a veces, claramente en el programa, resalto algo y digo: "Esto es malo". Sin embargo, normalmente la tecnología no es realmente el villano. Hicimos un episodio con perros asesinos robot autónomos matando gente.

No positivo.

Realmente no es una lectura positiva al respecto. Pero presumiblemente todavía fueron creados por un humano en esa historia.

Pero la mayoría de las veces, cuando un episodio es clásico de Black Mirror, tienes algo que en realidad es bastante milagroso. Que, como espectador, puedas ver lo deseable que es. Puedes ver por qué sería útil, puedes ver por qué sería transformador y, en muchos sentidos, extremadamente positivo. Y generalmente son los seres humanos, los seres humanos desordenados que usan estas cosas en la historia, quienes logran arruinar las cosas.

Y supongo que eso refleja lo que siento acerca de muchas cosas. En la vida real, soy bastante geek y tecnológico. Solía ​​ser periodista de videojuegos y me encanta todo esto. Amo la tecnología, amo las computadoras.

Pero también soy una persona preocupada por naturaleza. Soy alguien que catastrofiza en un abrir y cerrar de ojos. Puede que no sorprenda a nadie que haya visto el programa. Por eso, a menudo me preocupa cuándo un nuevo desarrollo o artilugio nos dará poder y la responsabilidad que eso conlleva. Y qué fácil es hacer un mal uso de eso, o de las consecuencias no deseadas o de las consecuencias obvias y torpes. Y lo vemos una y otra vez con las cosas. Por lo general, nuestras tecnologías ceden con una mano y con la otra nos golpean en la nuca.

Pero ese ha sido el caso de la imprenta, ha sido el caso de todo. No quisiera eliminar necesariamente estas cosas de la existencia.

Su programa comenzó en 2011. En aquel entonces, éramos enormemente optimistas sobre la tecnología de consumo, ya fueran iPhones o redes sociales. La gente seria pensaba que Twitter podría traer la democracia a Medio Oriente. Las cosas han vuelto dramáticamente en la dirección opuesta. ¿Crees que eso siempre fue inevitable?

Es evidente que en ese momento lo estábamos mirando a través de unas gafas extremadamente rosadas. En cierto modo, eso era lo que estaba aprovechando en mi cabeza, ciertamente en algunos de esos primeros episodios. La mayoría de los anuncios de Apple me parecieron: ¿has visto Soylent Green?

Por supuesto.

charlie brooker

Hay un momento en el que alguien es sacrificado: un anciano es sacrificado. Y lo llevan a una especie de clínica de eutanasia y lo último que le muestran son imágenes del mundo natural que ahora ha sido destruido. Y en cierto modo lo hace llorar y luego lo matan y lo convierten en comida, básicamente.

Alguien en Silicon Valley pensó que sería una buena marca.

Bueno, allá vas. Quiero decir, ese es el mejor ejemplo. Pero las imágenes allí, el tipo de imágenes agradables que se le mostraron a este tipo contra este fondo negro extremadamente distópico, esa fue la sensación que siempre tuve en los anuncios de Apple en ese momento. Simplemente parecían mostrar a todos divirtiéndose, bailando y sonriendo. Y simplemente piensas: “Bueno, espera un momento. Las cosas no suelen ser tan positivas”.

Y si de repente tenemos a nuestra disposición herramientas extremadamente poderosas, haremos cosas increíbles. También haremos cagadas increíbles. Entonces me pareció una preocupación fundada que sentí que no se vio reflejada en ese momento.

Y recuerdo la positividad en torno a la Primavera Árabe y la sensación de que Twitter estaba trayendo democracia a Medio Oriente. Y ahora todo esto parece extremadamente ingenuo. Creo que siempre fue inevitable que íbamos a arruinar un poco las cosas.

Pero no quisiera ser completamente cínico. La analogía que siempre uso es que, especialmente en algo como las redes sociales, es como si de repente nos hubiera crecido una extremidad extra, lo cual es sorprendente porque significa que puedes hacer malabarismos y desplazarte por tu iPhone al mismo tiempo. Pero también significa que todavía no estamos seguros de cómo controlarlo.

A veces me siento frustrado cuando la gente caracteriza el programa como algo así como "la tecnología es un mal programa". Y creo que a veces reacciono demasiado a eso.

Mencionaste la IA al comienzo de esta conversación. En el espacio de un año pasamos de: "Mira este interesante arte de IA, ¿no es genial o alucinante?" hasta "Oh, la IA podría escribir un guión con Chat GPT" y "Ahora tal vez la IA haga una película completa o un programa de televisión". ¿Piensas en la IA como una herramienta y/o como una amenaza?

Creo que son ambas cosas. Lo que realmente me deprime más que cualquier otra cosa es que tengo dos hijos y uno de ellos tiene 9 años y está empezando a dibujar y es bueno. Realmente bueno, especialmente para su edad. Está dibujando y garabateando con orgullo. Y yo estaba mirando esto y alentándolo, bien hecho. Y luego el siguiente pensamiento que llegó fue: "Sí, pero quiero decir, ser ilustrador no es una carrera profesional en estos días, ¿verdad?".

Y luego, al mayor le gusta mucho la codificación. Y yo pienso, sí, pero ¿estás aprendiendo? ¿Es esto como aprender matemáticas, y ahora aparecen las calculadoras y lo muestran como... una máquina simplemente va a hacer las partes asquerosas de codificación por usted?

Por eso me preocupa mucho cuál va a ser el impacto general sobre el empleo.

Jugué con todas esas cosas, Midjourney y esas cosas, como cualquier otra persona. Y es revelador: las imágenes que se vuelven virales, ese tipo de cosas; Las cosas que resultan atractivas son todo tipo de combinaciones, ¿no? Son todas combinaciones de cosas. Entonces escribía: “Muéstrame a Jack el Destripador en la tienda Great British Bake Off” o algo así. “Muéstrame a Boris Johnson dándole la mano al oso Paddington en el set de Seinfeld”. Porque está aspirando parasitariamente cosas que los humanos hemos hecho, creado o somos. Muy rápidamente, con el arte de la IA, hubo algo genérico al respecto. O eran riffs de una IP existente o de alguna manera era demasiado ingenioso, como una voz autoajustada.

Sí, puedes verlo.

Y cosas como Chat GPT, puedo ver totalmente el valor de usarlo como una especie de Google con hiperpoderes. "Oh, rápido: enumera 10 trabajos que alguien en la Inglaterra victoriana podría haber realizado". Puedo imaginarlo como una herramienta de escritura. Y lo aterrador es que puedo imaginar a la gente usándolo para generar algo que luego dicen poseer, que no es lo suficientemente bueno como para ser aprobado, y luego tendrías que contratar a un humano, por poco dinero, para ponerlo en forma. .

Debería ser como las herramientas de Photoshop. La mayoría de las herramientas de Photoshop no me asustan. Creo que son súper útiles para los artistas.

Esperemos que un resultado sea que nos ayude a mejorar nuestro juego. Es interesante en este momento que hemos tenido muchas películas formuladas y esas cosas. No es por menospreciar las películas de superhéroes, es sólo que hay muchas.

Y el público parece exhausto.

Exhausto. Porque creo que se siente como si pudieras decirle a Chat GPT: "Supera los ritmos de una [película] de superhéroes". Ya sabes cuál será el ritmo de la historia.

¿Te imaginas usarlo? He hablado con personas que dicen: "Sí, es bueno hacer un primer borrador terrible, porque prefiero mirar un primer borrador malo que una página en blanco" o "Puedo analizar ideas y cientos de ideas". será malo pero uno será bueno. Y eso es útil para mí”.

No creo que esté en el punto en el que pueda escribir un borrador de vómito siquiera útil. No sé si confío en su capacidad para generar una idea. ¿Ahora estás comentando una idea que tú mismo tienes? Potencialmente puedo ver eso.

Pero como está aspirando cosas de otras personas... Otra cosa que hice [con Chat GPT] fue escribir: "Dame una idea para un episodio de Black Mirror". E inmediatamente volvió con cosas que... eran bastante genéricas. Eran la idea del software de emulación de lo que es una historia de Black Mirror. Y eso me hizo sentir una especie de autoparásito.

Simplemente se me está escapando. Y me enojaría bastante si alguien más lo estuviera usando para chuparme. Probablemente se haya visto en alguna parte que Black Mirror es un poco como The Twilight Zone, por lo que probablemente se esté filtrando de Rod Serling. Probablemente esté absorbiendo RoboCop, Starship Troopers, todas estas cosas brillantes que encontré muy influyentes...

Y lo hiciste como humano. Te llevaste todas esas cosas...

Entonces, sí, quiero decir, también puedo ver ese argumento. Ciertamente, hay episodios de Black Mirror que están directamente inspirados... Hicimos un episodio llamado "USS Callister", que es una especie de historia de Star Trek. Y está muy directamente inspirado en un episodio de The Twilight Zone llamado "It's a Good Life", donde hay un niño de 6 años ultrapoderoso, que puede...

Es aterrador.

Es aterrador y todavía se mantiene hoy en día, y es absolutamente escalofriante y aterrador. Y estaba tratando de pensar en, extrañamente, una idea de historia muy diferente que tuviera que ver con personas en el lugar de trabajo, presentada en un musical, como un musical virtual, como Grease the Musical. Y no sabrían cuáles eran sus roles. Entonces yo podría ser Sandy y tú podrías ser Danny, pero no lo sabríamos, nuestro verdadero nosotros no lo sabríamos. Estaba jugueteando con esa idea y luego pensé: "Dios, podrías hacer tantas cosas poderosas". Y tan pronto como pensé: “Bueno, ¿y si esta es una historia sobre un tirano? Recuerdo ese episodio de Twilight Zone…”

Así que ese es un ejemplo de mí, supongo, aspirando parasitariamente algo que Rod Serling escribió, poniéndolo a través de mi pequeña IA en mi cerebro. Supongo que simplemente lo llamas "yo". No hay nada artificial en ello. Sólo mi yo.

Y creaste algo completamente nuevo. Es uno de sus mejores episodios, el más aclamado.

Estoy muy orgulloso de ese episodio. Pero espero que sea un proceso diferente porque estoy diciendo que tengo una deuda con Rod Serling allí. Hubo una fuerte influencia. Supongo que [AI] siente que esto lo está haciendo a escala industrial.

Y retrocedes ante eso. Como saben, ahora mismo hay un debate, con la huelga de actores y escritores, sobre cuánta IA vamos a permitir en nuestro entretenimiento. ¿Crees que ese es un temor real para los escritores y actores: que los estudios realmente quieran usar la IA para reemplazar gran parte de lo que hacen?

Creo que es un miedo real. Creo que el temor al escribir es que el estudio pueda usarlo para generar borradores vomitivos de cosas y luego contratar escritores humanos para reescribirlos deprimentemente. Y hacerlo humano. Y esa es una situación muy deprimente.

Pero permítanme hacer de abogado del diablo por un segundo. Porque es muy estándar en su negocio que alguien escriba un borrador, luego lo despida y luego traiga a varias personas, varias veces, para que vengan y mejoren ese borrador. O muchas veces peor.

¡Eso es muy cínico! Crecí en la vieja Gran Bretaña, donde aquí todo es bastante diferente: ¡el lado despiadado de la escritura de Hollywood me parece aterrador! He tenido una existencia muy afortunada como escritora. Quizás tengo una vista demasiado rosada.

¿Apoyará el periodismo explicativo de Vox?

La mayoría de los medios de comunicación ganan dinero mediante publicidad o suscripciones. Pero cuando se trata de lo que intentamos hacer en Vox, hay un par de problemas importantes al depender de anuncios y suscripciones para mantener las luces encendidas. En primer lugar, el dinero destinado a publicidad sube y baja con la economía. A menudo sólo sabemos dentro de unos meses cuáles serán nuestros ingresos por publicidad, lo que dificulta la planificación futura. En segundo lugar, no estamos en el negocio de las suscripciones. Vox está aquí para ayudar a todos a comprender los complejos problemas que configuran el mundo, no solo a las personas que pueden permitirse pagar una suscripción. Creemos que es una parte importante de la construcción de una sociedad más igualitaria. Y no podemos hacer eso si tenemos un muro de pago. Es importante que tengamos varias formas de ganar dinero, al igual que es importante que usted tenga una cartera de jubilación diversificada para capear los altibajos del mercado de valores. Por eso, aunque la publicidad sigue siendo nuestra mayor fuente de ingresos, también buscamos subvenciones y apoyo de los lectores. (Y no importa cómo se financie nuestro trabajo, tenemos pautas estrictas sobre independencia editorial). Si también cree que todos merecen acceso a información confiable y de alta calidad, ¿le hará un regalo a Vox hoy? Cualquier cantidad ayuda.

$95/año

$120/año

$250/año

$350/año

Aceptamos tarjeta de crédito, Apple Pay y Google Pay. También puedes contribuir a través de

Cada semana, exploramos soluciones únicas a algunos de los problemas más grandes del mundo.

Revise su bandeja de entrada para recibir un correo electrónico de bienvenida.

Ups. Algo salió mal. Por favor, introduce un correo electrónico válido e inténtalo de nuevo.