Desconfianza estética y conflictos ético-políticos ante el reto de la inteligencia artificial confiable: una propuesta ilustrada con casos cinematográficos recientes (2019-2023)

  1. Marcos Jiménez González 1
  2. Antonio Luis Terrones Rodríguez 2
  1. 1 Universidad de Zaragoza
    info

    Universidad de Zaragoza

    Zaragoza, España

    ROR https://ror.org/012a91z28

  2. 2 Universidad Loyola Andalucía
    info

    Universidad Loyola Andalucía

    Sevilla, España

    ROR https://ror.org/0075gfd51

Journal:
Enrahonar: an international journal of theoretical and practical reason

ISSN: 0211-402X 2014-881X

Year of publication: 2024

Issue Title: Narratives en la transició digital: desinformació, postveritat i raó

Issue: 73

Pages: 131-151

Type: Article

DOI: 10.5565/REV/ENRAHONAR.1575 DIALNET GOOGLE SCHOLAR lock_openOpen access editor

More publications in: Enrahonar: an international journal of theoretical and practical reason

Sustainable development goals

Abstract

In 2019 the Expert Group on Artificial Intelligence, an initiative of the European Commission, published Ethical Guidelines for Trustworthy Artificial Intelligence. This document, along with others, aims to lay the foundations in Europe for trustworthy Artificial Intelligence (AI). A set of prerequisites, ethical principles and strategies point the way to a human-centric European project that aligns with the needs and expectations of human beings. This article argues that this proposal faces difficulties due to the essentially negative image of AI, which has its roots in literature (the Frankenstein Complex), influences the collective imagination, and is currently found in the audiovisual arts. Thus some recent film cases are analysed, with the aim of establishing a diagnosis and offering possible solutions. A question that hinders the ethical and political path that is intended in the European space and requires an extensive aesthetic education, which is currently systemically lacking.

Bibliographic References

  • ALFONSECA, Manuel; CEBRIÁN, Manuel; FERNÁNDEZ ANTA, Antonio; COVIELLO, Lorenzo; ABELIUK, Andrés; RAHWAN, Iyad (2021). «Superintelligence cannot be Contained: Lessons from Computability Theory». Journal of Artificial Intelligence Research, 70, 65-76.
  • ASIMOV, Isaac (2009). Yo, robot. Barcelona: Editora y Distribuidora Hispano Americana.
  • BALLÓ, Jordi y PÉREZ, Xabier (2010). La semilla inmortal. Barcelona: Anagrama.
  • BEAUCHAMP, Gorman (1980). «The Frankenstein Complex and Asimov’s Robots». Mosaic: A Journal for the Interdisciplinary Study of Literature, 13 (3/4), 83-94. Recuperado de http://www.jstor.org/stable/24780264
  • BIRD, James (Director) (2022). Wifelike [Película]. Estados Unidos: SP Media Group / Wonder Street.
  • BOEHM, Gottfried (ed.) (1994). Was ist ein Bild? Múnich: Fink.
  • BRYSON, Joanna J. y THEODOROU, Andreas (2019). «How society can maintain human-centric artificial intelligence». En: TOIVONEN-NORO, Marja Ireene y SAARI, Eveliina (eds.). Human-Centered Digitalization and Services. Singapur: Springer. https://doi.org/10.1007/978-981-13-7725-9_16
  • CAMERON, James (Director) (1984). Terminator [Película]. Estados Unidos: Hemdale, Pacific Western, Euro Film Funding.
  • COMISIÓN EUROPEA (2020). Libro blanco sobre la inteligencia artificial: Un enfoque europeo orientado a la excelencia y la confianza. Recuperado de https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020DC0065
  • COMISIÓN EUROPEA (2021). Laying Down Harmonised Ruleson Artificial Intelligence (Artificial Intelligence Act, AIA) and Amending Certain Union Legislative Acts. Recuperado de https://artificialintelligenceact.eu/wp-content/uploads/2024/01/AI-Act-FullText.pdf
  • CONILL, Jesús (2006). Ética hermenéutica. Madrid: Tecnos.
  • COOK, S. D. Noam (2010). «Making the Technological Trustworthy». Knowledge, Technology & Policy, 23, 455-459. https://doi.org/10.1007/s12130-010-9126-4
  • CRAVEN, Wes (Director) (1996). Scream [Película]. Dimension Films / Woods Entertainment.
  • CUNNINGHAM, Sean S. (Director) (1980). Viernes 13 [Película]. Paramount Pictures / Georgetown Productions Inc. / Sean S. Cunningham Films.
  • DIERYCK BARRENA, Manuel (2023). «Inmersión en el problema del mito de Frankenstein». Análisis. Revista de Investigación Filosófica, 10 (1), 3-21. https://doi.org/10.26754/ojs_arif/arif.202316251
  • DIGNUM, Virginia (2019). Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. Cham: Springer.
  • EDWARDS, Gareth (Director) (2023). The Creator [Película]. Estados Unidos: 20th Century Studios.
  • EUBANKS, Virginia (2007). «Popular technology: Exploring inequality in the information economy». Science and Public Policy, 34 (2), 127-138. https://doi.org/10.3152/030234207X193592
  • FLORIDI, Luciano (2021). «Establishing the Rules for Building Trustworthy AI». En: FLORIDI, Luciano (eds.). Ethics, Governance, and Policies in Artificial Intelligence. Cham: Springer. https://doi.org/10.1007/978-3-030-81907-1_4
  • FLORIDI, Luciano; COWLS, Josh; BELTRAMETTI, Monica; CHATILA, Raja; CHAZERAND, Patricie; DIGNUM, Virginia; LUETGE, Cristoph; MADELIN, Robert; PAGALLO, Ugo; ROSSI, Francesca; SCHAFER, Burkhard; VALCKE, Peggy y VAYENA, Effy (2018). «AI4People–An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations». Minds and Machines, 28 (4), 689-707. https://doi.org/10.1007/s11023-018-9482-5
  • FUTURE OF LIFE INSTITUTE (2017). Asilomar AI Principles. Recuperado de https://futureoflife.org/open-letter/ai-principles/
  • GADAMER, Hans-Georg (1998). El giro hermenéutico. Madrid: Cátedra.
  • GARCÍA GUAL, Carlos (2022). Prometeo: El mito del dios rebelde y filántropo. Madrid: Turner.
  • GARLAND, Alex (Director) (2014). Ex Machina [Película]. Reino Unido: Universal Pictures International (UPI), Film4, DNA Films.
  • GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL (2019a). Directrices éticas para una IA fiable. Recuperado de https://data.europa.eu/doi/10.2759/14078
  • GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL (2019b). Recomendaciones de política e inversión para una IA fiable. Recuperado de https://digital-strategy.ec.europa.eu/en/library/policy-and-investment-recommendations-trustworthy-artificial-intelligence
  • HERNÁNDEZ DE LA FUENTE, David (2015). Mitología clásica. Madrid: Alianza.
  • JARAN, François (2021). El animal artificial. Madrid: Guillermo Escolar Editor.
  • JEUNET, Jean-Pierre (Director) (2022). Bigbug [Película]. Francia: Eskwad / Gaumont.
  • JIMÉNEZ GONZÁLEZ, Marcos (2019). «El robot en el cine: De la obediencia a la rebelión. Análisis de los imaginarios estéticos predominantes en el cine de ciencia ficción». En: URRACO SOLANILLA, Mariano y MARTÍNEZ MESA, Francisco José (eds.). De esclavos y robots y esclavas: Paisajes transmediáticos. Madrid: Libros de la Catarata.
  • JOHNSTONE, Gerard (Director) (2022). Megan [Película]. Estados Unidos / Nueva Zelanda: Atomic Monster / Blumhouse Productions.
  • KLEVBERG, Lars (Director) (2019). Muñeco diabólico [Película]. Canadá / Estados Unidos: KatzSmith Productions.
  • KUBRICK, Stanley (Director) (1968). 2001: Una odisea del espacio [Película]. Reino Unido y Estados Unidos: Metro-Goldwyn-Mayer (MGM) / Stanley Kubrick Productions.
  • LANG, Fritz (Director) (1927). Metrópolis [Película]. Alemania: Universum Film (UFA).
  • LARSON, Erick J. (2022). El mito de la inteligencia artificial: Por qué las máquinas no pueden pensar como nosotros lo hacemos. Barcelona: Shackleton Books.
  • LI, Bo; QI, Peng; LIU, Bo; DI, Shuai; LIU, Jingen; PEI, Jiquan; YI, Jinfeng y ZHOU, Bowen (2023). «Trustworthy AI: From Principles to Practices». ACM Computing Surveys, 55 (9), 1-46. https://doi.org/10.1145/3555803
  • LIANG, Weixin; ADEBE TADESSE, Girmaw; HO, Daniel; FEI-FEI, L.; ZAHARIA, Matei; ZHANG, Ce y ZOU, James (2022). «Advances, challenges and opportunities in creating data for trustworthy AI». Nature Machine Intelligence, 4, 669-677.
  • LÓPEZ SÁENZ, M.ª Carmen (2016). «La aplicación gadameriana de la phrónesis a la praxis». Contrastes: Revista Internacional de Filosofía, 6, 79-98. https://doi.org/10.24310/Contrastescontrastes.v0i0.1624
  • «Lo último que me preocuparía es una supuesta rebelión de las máquinas». Entrevista a Ramón López de Mántaras. CSIC (20 de diciembre de 2017). Recuperado de https://www.csic.es/es/ciencia-y-sociedad/iniciativas-de-divulgacion/historico-de-iniciativas-de-divulgacion/lo-ultimo-que-me-preocuparia-es-una-supuesta-rebelion-de-las-maquinas
  • MANOVICH, Lev y ARIELLI, Emanuele (2021). Artificial Aesthetics: A Critical Guide to AI, Media and Design. Manovich. Recuperado de http://manovich.net/index.php/projects/artificial-aesthetics
  • MASÍS GONZÁLEZ, Tadeo y CASTRO LÓPEZ, Roberto (2021). «Distopías y la rebelión de las máquinas: Sobre los tópicos del Cyberpunk». Pensamiento Actual, 21 (36), 131-138. https://doi.org/10.15517/pa.v21i36.47019
  • MCCORDUCK, Pamela (1991). Máquinas que piensan. Barcelona: Tecnos.
  • MILLER, Steven C. (Director) (2022). Margaux [Película]. Estados Unidos: Lighthouse Pictures.
  • MIRTES, Aaron (Director) (2020). Alpha Test [Película]. Estados Unidos: Exit 10 Films.
  • MITCHELL, William John Thomas (1994). Picture Theory. Chicago: University of Chicago Press.
  • MOLINUEVO, José Luis (2004). Humanismo y nuevas tecnologías. Madrid: Alianza.
  • MOROZOV, Evgeny (2016). La locura del solucionismo tecnológico. Buenos Aires: Katz Editores.
  • NICKEL, Philip J.; FRANSSEN, Maarten y KROES, Peter (2010). «Can We Make Sense of the Notion of Trustworthy Technology?». Knowledge, Technology & Policy, 23, 429-444.
  • NOWOTNY, Helga (2022). La fe en la inteligencia artificial: Los algoritmos predictivos y el futuro de la humanidad. Barcelona: Galaxia Gutenberg.
  • ORTEGA Y GASSET, José (2015). Meditación de la técnica: Ensimismamiento y alteración. Madrid: Biblioteca Nueva.
  • ORTIZ VILLETA, Áurea (2024). El arte de inventar la realidad. Valencia: Barlin Libros.
  • PASQUALE, Frank (2024). Las nuevas leyes de la robótica: Defender la experiencia humana en la era de la IA. Barcelona: Galaxia Gutenberg.
  • PITT, Joseph C. (2010). «It’s Not about Technology». Knowledge, Technology & Policy, 23, 445-454. https://doi.org/10.1007/s12130-010-9125-5
  • POST, Maaike y MULDER, Arjen (2000). Book for the Electronic Arts. Ámsterdam: Art Data.
  • PROYAS, Alex (Director) (2004). Yo, Robot [Película]. Estados Unidos, Alemania: Twentieth Century Fox, Mediastream Vierte Film GmbH & Co. Vermarktungs KG, Davis Entertainment.
  • RANCIERE, Jacques (2014). El reparto de lo sensible. Estética y política. Buenos Aires: Prometeo libros.
  • RIANDA, Michael y ROWE, Jeff (Directores) (2021). Los Mitchell contra las máquinas [Película]. Estados Unidos / Hong Kong / Canadá: Sony Pictures Animation / Columbia Pictures.
  • ROMELE, Alberto (2022). «Images of Artificial Intelligence: a Blind Spot in AI Ethics. Philosophy & Technology, 35, 4. https://doi.org/10.1007/s13347-022-00498-3
  • SAFFARI, Ehsan; HOSSEINI, Seyed Ramezan; TAHERI, Alireza y MEGHDARI, Ali (2021). «“Does cinema form the future of robotics?”: A survey on fictional robots in sci-fi movies». SN Applied Sciences, 3 (655), 1-13. https://doi.org/10.1007/s42452-021-04653-x
  • SANG-HO, Yeon (Director) (2023). Jung_E [Película]. Corea del Sur: Climax Studio.
  • SARTORI, Laura y THEODOROU, Andreas (2022). «A sociotechnical perspective for the future of AI: Narratives, inequalities, and a human control». Ethics and Information Technology, 24 (4), 1-11. https://doi.org/10.1007/s10676-022-09624-3
  • SCOTT, Ridley (Director) (1982). Blade Runner [película]. Estados Unidos: Warner Bros. Pictures.
  • SHELLEY, Mary W. (2011). Frankenstein, o el moderno Prometeo. Madrid: Alianza Editorial.
  • SKAUG SÆTRA, Henrik (2022). AI for the sustainable development goals. Boca Raton: CRC Press.
  • SWEET, Jesse (dir.) (2023). Lo desconocido: Los robots asesinos [Documental]. Estados Unidos: Netflix, Story Syndicate.
  • TERRONES RODRÍGUEZ, Antonio Luis y ROCHA BERNARDI, Mariana (2023). «El valor de la ética aplicada en los estudios de ingeniería en un horizonte de inteligencia artificial confiable». Sophia: Colección de Filosofía de la Educación, 36, 221-245. https://doi.org/10.17163/soph.n36.2024.07
  • TOMLIN, Mattson (Director) (2021). Madre / Androide [Película]. Estados Unidos: Miramax.
  • UNIVERSITÉ DE MONTRÉAL (2017). Montreal Declaration for a Responsible Development of AI. Recuperado de https://montrealdeclaration-responsibleai.com/the-declaration/
  • VALLEJO CAMPOS, Álvaro (2004). «El concepto aristotélico de prhónesis y la hermenéutica de Gadamer». En: ZÚÑIGA GARCÍA, José Francisco; SÁEZ RUEDA, Luis; PÉREZ TAPIAS, José Antonio; NICOLÁS MARÍN, Antonio y ACERO FERNÁNDEZ, Juan José (eds.). El legado de Gadamer. Granada: Editorial Universidad de Granada.
  • VAN WYNSBERGHE, Aimee (2021). «Sustainable AI: AI for sustainability and the sustainability of AI». AI Ethics, 1, 213-218. https://doi.org/10.1007/s43681-021-00043-6
  • VINUESA, Ricardo; AZIZPOUR, Hossein; LEITE, Iolanda; BALAAM, Madeline; DIGNUM, Virginia; DOMISCH, Sami; FELLÄNDER, Anna; LANGHANS, Simone Daniela; TEGMARK, Max y FUSO NERINI, Francesco (2020). «The role of artificial intelligence in achieving the Sustainable Development Goals». Nature Communications, 11, 1-10.
  • WACHOWSKI, Lana y WACHOWSKI, Lilly (Directoras) (1999). Matrix [Película]. Estados Unidos: Warner Bros. / Village Roadshow Pictures / Groucho Film Partnership.
  • WHALE, James (Director) (1931). El doctor Frankenstein [Película]. Estados Unidos: Universal Pictures.
  • ZENTNER, Gonzalo (2023). «¿Es posible una “rebelión de las máquinas”?: Qué respondió la Inteligencia Artificial». El Litoral (2 de abril). Recuperado de https://www.ellitoral.com/internet-y-tecnologia/video-viral-posible-rebelion-maquinas-inteligencia-artificial-chatgpt-respuestas-dudas-certezas-terminator-skynet-james-cameron-control-total_0_qqH7wUWeMP.html