Desafíos de la Inteligencia Artificial generativa: Tres escalas y dos enfoques transversales

Flavia Costa; Julián Andrés Mónaco; Alejandro Covello; Iago Novidelsky; Ximena  Zabala; Pablo Rodríguez

doi:10.24215/16696581e844

Autores/as

Flavia Costa Tecnocenolab (UBA) y Conicet
Julián Andrés Mónaco CONICET-IDAES (UNSAM) / UBA
Alejandro Covello Tecnocenolab (UBA) y JST
Iago Novidelsky Tecnocenolab (UBA) y JST
Ximena Zabala Tecnocenolab (UBA)
Pablo Rodríguez Tecnocenolab (UBA) y Conicet

DOI:

https://doi.org/10.24215/16696581e844

Palabras clave:

Inteligencia Artificial, Inteligencia Artificial generativa, riesgos y seguridad de la IA, sociedad artificial

Resumen

El objetivo de este artículo es ofrecer una perspectiva analítica para comprender y situar en su dimensión específica los diferentes debates que atraviesan la conversación pública sobre las Inteligencias Artificiales generativas y los modelos de lenguaje grandes (LLM, por sus siglas en inglés). En primer lugar, identificamos cinco rasgos de las IA: no son una tecnología, sino que se trata de metatecnologías; constituyen no un dispositivo técnico, sino un mundoambiente; pueden ser tecnologías de alto riesgo y requieren de un tratamiento acorde en su ciclo de vida; las IA generativas y en particular los LLM no son sólo Inteligencia Artificial, sino también Sociedad Artificial; la perspectiva de la ética de la IA no es suficiente para abordarlas y es preciso promover un enfoque desde la ética organizacional de la IA y desde el pensamiento sistémico. En segundo lugar, recortamos las distintas escalas en las que actualmente se desarrollan las IA: la escala micro, la escala meso (la más propia para situar las políticas públicas) y la escala macro. En tercer lugar, presentamos dos enfoques transversales para el abordaje de las IA: el jurídico, orientado a la responsabilidad, y el sistémico, orientado a la protección y a la seguridad.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Flavia Costa, Tecnocenolab (UBA) y Conicet

FLAVIA COSTA es doctora en Ciencias Sociales por la Universidad de Buenos Aires e investigadora del CONICET. Es profesora asociada del Seminario de Informática y Sociedad, en la Carrera de Ciencias de la Comunicación de la UBA; titular de las materias Arte, tecnología y políticas de lo viviente en el Doctorado en Artes y tecnoestéticas de la Universidad Nacional de Tres de Febrero (UNTREF) y Teorías de la cultura y el poder. Michel Foucault, en la Maestría de Sociología de la cultura y análisis cultural de la Escuela Interdisciplinaria de Altos Estudios Sociales (EIDAES) de la Universidad Nacional de San Martín (UNSAM).

Es autora de numerosas publicaciones sobre arte, tecnología y sociedad, así como sobre las derivas contemporáneas de la bio-tecno-política: desde la gubernamentalidad algorítmica y la vigilancia genética hasta el transhumanismo y la inteligencia artificial generativa. Su último libro se titula Tecnoceno. Algoritmos, biohackers y nuevas formas de vida (Taurus, 2021).

Integra el grupo fundador de la revista Artefacto. Pensamientos sobre la técnica, y el colectivo Ludión. Exploratorio latinoamericano de poéticas/políticas tecnológicas. Es investigadora asociada del Colegio de Investigaciones Filosóficas (CIF). Ha traducido en colaboración buena parte de la obra del filósofo italiano Giorgio Agamben al castellano. En 2008 ha publicado la novela Las anfibias (Adriana Hidalgo, 2008).

Actualmente codirige junto con Pablo Manolo Rodríguez el proyecto de investigación “Big Data, algoritmos y plataformas: las nuevas formas de gubernamentalidad a la luz de la teoría de lo transindividual de Gilbert Simondon”, y tiene a su cargo la investigación “Desafíos e impactos de la inteligencia artificial. Marcos normativos, riesgos y retos para la calidad democrática en la Argentina”, realizada en el marco de la Facultad de Ciencias Sociales a solicitud del Programa Argentina Futura, de jefatura de Gabinete de Ministros.

Julián Andrés Mónaco, CONICET-IDAES (UNSAM) / UBA

Julián Mónaco es magíster en Comunicación y Cultura y Licenciado y Profesor en Ciencias de la Comunicación por la Universidad de Buenos Aires (UBA). Actualmente, se desempeña como becario doctoral del Consejo Nacional de Investigaciones Científicas y Técnicas de la Argentina (CONICET) con sede de trabajo en la Escuela Interdisciplinaria de Altos Estudios Sociales de la Universidad Nacional de San Martín (Escuela IDAES-UNSAM) y como docente del Seminario de Informática y Sociedad en la Carrera de Comunicación de la UBA. Además, dicta cursos de posgrado en la Diplomatura en Humanidades Ambientales de la Universidad de Tres de Febrero (UNTREF), en el Programa de Actualización “Tecnologías en el arte contemporáneo” de la Facultad de Filosofía y Letras de la UBA y en la Maestría en Tecnología, Políticas y Culturas de la Universidad Nacional de Córdoba (UNC). Forma parte del Equipo Editorial de la revista Avatares de la Comunicación y la Cultura e integra el proyecto UBACyT “Big Data, algoritmos y plataformas: las nuevas formas de gubernamentalidad a la luz de la teoría de lo transindividual de G. Simondon”, dirigido por Pablo Rodríguez y Flavia Costa.

Es diplomado en Educación y Nuevas Tecnologías por la Facultad Latinoamericana de Ciencias Sociales (FLACSO) y en 2019 compiló junto a Alejandro Pisera el volumen Lo que puede una escuela. Una construcción sin modelos (UNSAM Edita-Miño y Dávila).

Conduce en FM La Tribu un espacio periodístico dedicado a pensar la intersección entre la política, la comunicación y la tecnología llamado “¿Para qué sirven nuestros clics?”.

Alejandro Covello, Tecnocenolab (UBA) y JST

Alejandro Covello es aviador militar (Fuerza Aérea Argentina) y piloto de línea aérea. Se recibió como licenciado en Higiene y Seguridad en el Trabajo en la Universidad de Morón (UM) y como Especialista en Factores Humanos y Organizacionales aplicados a sistemas de alto riesgo.

En la actualidad, trabaja como asesor en la Junta de Seguridad en el Transporte (JST, Ministerio de Transporte), como instructor en la Asociación de Pilotos de Líneas Aéreas (APLA) e implementando Well Operation Crew Resource Management en YPF.

Es profesor en la Universidad Tecnológica Nacional (UTN) y en la Universidad Nacional Autónoma de Honduras (UNAH), instructor internacional en la Air Transport Association (IATA) y director académico de la Certificación de Formación Profesional Continua “Gestión de la Seguridad Operacional en el Transporte Ferroviario” (DGCyE, Provincia de Buenos Aires).

Fue fundador de la Asociación Civil Ateneo, dedicada al estudio de los factores humanos y organizacionales en el sector de la aviación. Coordinó y participó como autor de distintos libros sobre investigación de accidentes, sistemas de seguridad operacional y gestión de riesgos en industrias de alto riesgo. Sus últimas publicaciones son Análisis sistémico de la pandemia del coronavirus. Un accidente normal (2020, con Marcelo Muro) e Investigación sistémica de accidentes. Modelo para el transporte y la gestión de riesgos en sistemas complejos (2021).

Iago Novidelsky, Tecnocenolab (UBA) y JST

Iago Nicolás Novidelsky es estudiante avanzado de Ingeniería Ferroviaria en la Universidad Tecnológica Nacional (UTN) - Facultad Regional Haedo. Se desempeña como Investigador a cargo en la Dirección Nacional de Investigación de Sucesos Ferroviarios de la Junta de Seguridad en el Transporte (JST, Ministerio de Transporte). Trabajó como docente de Factores Humanos en la Diplomatura en Seguridad Operacional en el Transporte (UTN-JST).

Ximena Zabala, Tecnocenolab (UBA)

Ximena Victoria Zabala es magíster en Comunicación y Cultura y Licenciada en Ciencias de la Comunicación por la Universidad de Buenos Aires (UBA). Actualmente se desempeña como docente del Seminario de Informática y Sociedad en la Carrera de Comunicación de la UBA y en la Universidad Nacional de las Artes (UNA) en la que dicta Historia Sociocultural del Arte en la Licenciatura en Artes Multimediales. Como investigadora integra el proyecto UBACyT “Fenómenos subjetivos, políticos y estéticos vinculados con la imprevisibilidad de la técnica. Algunas hipótesis sobre las mutaciones actuales de lo humano”, dirigido por Christian Ferrer. Además, trabaja como periodista: escribe e indaga sobre cultura digital, arte, política y medios.

Pablo Rodríguez, Tecnocenolab (UBA) y Conicet

Pablo Manolo Rodríguez es Licenciado en Ciencias de la Comunicación, Doctor en Ciencias Sociales y Profesor Adjunto de la Facultad de Ciencias Sociales, todo ello en la Universidad de Buenos Aires, e Investigador Independiente del Conicet (Argentina). Master en Comunicación, Tecnologías y Poder de la Université de Paris I (Panthéon-Sorbonne). Es autor de los libros Historia de la información (Capital Intelectual, 2012) y Las palabras en las cosas. Saber, poder y subjetivación entre algoritmos y biomoléculas (Cactus, 2019 y 2020); también coeditó Amar a las máquinas. Cultura y técnica en Gilbert Simondon (Prometeo, 2015) y La salud inalcanzable. Biopolítica molecular y medicalización de la vida cotidiana (Eudeba, 2017, con Flavia Costa). Publicó artículos en libros y revistas de Argentina, Brasil, Chile, Colombia, México, España, Francia, Inglaterra, Italia y Australia. Ha traducido libros de Lucien Sfez, François Zouravichvili, Maurizio Lazzarato, Michel Foucault y Gilbert Simondon. Se desempeñó como redactor y editor de la sección “El Mundo” del diario Página/12 entre 1998 y 2003. En el ámbito periodístico también colaboró con los suplementos culturales de Clarín, La Nación y Perfil entre 2004 y 2017. Integra el colectivo Ludión. Exploratorio latinoamericano de poéticas/políticas tecnológicas y el grupo editor de la revista Artefacto. Pensamientos sobre la técnica. Es miembro del comité académico de Argumentos. Revista de Crítica Social (IIGG). En el ámbito académico, es miembro de la Red Federal de Filosofía de la Técnica y de la Red Latinoamericana de Estudios Simondonianos (Relés). En el ámbito institucional, fue responsable de la Oficina de Publicaciones de la Facultad de Ciencias Sociales (2010-2012), y es miembro del comité académico del IIGG. Dirige junto a Flavia Costa el proyecto UBACyT “Big Data, algoritmos y plataformas: las nuevas formas de gubernamentalidad a la luz de la teoría de lo transindividual de G. Simondon”.

Citas

Agrawal, A.K.; McHale, J.; y Oettl, A. (2018). “Finding needles in haystacks: Artificial Intelligence and recombinant growth”. Nber Working Paper Series, 24541.

Albrieu, R. et al. (2018). Inteligencia artificial y crecimiento económico. Oportunidades y desafíos para Argentina, Buenos Aires: Cippec.

Arenas, M.; Arriagada, G.; Mendoza, M.; Prieto, C. (2020). Una breve mirada al estado actual de la Inteligencia

Artificial, Pontificia Universidad Católica de Chile, 2020. En Internet: https://desarrollodocente.uc.cl/wp-content/uploads/2020/09/Una-breve-mirada-al-estado-actual-de-la-Inteligencia-Artificial.pdf.

Bostrom, N. (2016 [2014]). Superinteligencia. Caminos, peligros, estrategias, España: Teell.

Bowman, S.R. (2023). “Eight Things to Know about Large Language Models”. Cornell University. Recuperado de arxiv.org/abs/2304.00612

Center for AI Safety (s/f). Center for AI Safety, “An Overview of Catastrophic AI Risks”. Recuperado de safe.ai/ai-risk.

Costa, F. (2021). Tecnoceno. Algoritmos, biohackers y nuevas formas de vida, Buenos Aires: Taurus.

Covello, A (2021). Investigación sistémica de accidentes. Modelo para el transporte y la gestión de riesgo en sistemas complejos, CABA: Ediciones Ciccus.

Crawford, K. (2022). Atlas de inteligencia artificial. Poder, política y costos planetarios, Buenos Aires: Fondo de Cultura Económica.

Feenberg, A.(2002). Transforming Technology: A critical theory revisited, Nueva York: Oxford University Press.

Floridi, L. (2011). “Energy, Risks, and Metatechnology”. SRRN. Recuperado de ssrn.com/abstract=3854445

Gómez Mont, C. et al. (2020). La Inteligencia Artificial al servicio del bien social en América Latina y el Caribe: panorámica regional e instantáneas de doce países. Banco Interamericano de Desarrollo.

Hendrycks D.; Mazeika M.; y Woodside T. (2023). An Overview of Catastrophic AI Risks. s/d. Recuperado de arxiv.org/pdf/2306.12001.pdf

HM Government (2023). Safety and Security Risks of Generative Artificial Intelligence to 2025, Reino Unido: Gobierno del Reino Unido.

Keen, M. (2023). How Large Language Models Work [archivo de video]. Recuperado de

https://www.youtube.com/watch?v=5sLYAQS9sWQ

Kurzweil, R. ([2005] 2012). La Singularidad está cerca. Cuando los humanos transcendamos la biología, Berlín: Lola Books.

Mittelstadt, B. (2019). “Principles alone cannot guarantee ethical AI”. Nat Mach Intell, 1, 501–507.

OCDE (2019a). Artificial Intelligence in Society. doi.org/10.1787/eedfee77-en

OCDE (2019b). Recommendation of the Council on Artificial Intelligence. OECD. Recuperado de oecd.ai/en/assets/files/OECD-LEGAL-0449-en.pdf

Subsecretaría de Tecnologías de la Información (2023). Recomendaciones para una inteligencia artificial fiable. Buenos Aires.

Trollip, A. (2021). “Unfolding AI’s Potential: How Investing in Research and Development Can Produce New Knowledge”. Bipartisan Policy Center. Recuperado de bipartisanpolicy.org/blog/unfolding-ais-potential/

Unesco (2022). Recomendación sobre la ética de la inteligencia artificial. París: Unesco. Recuperado de unesdoc.unesco.org/ark:/48223/pf0000381137_spa

Vercelli, A. (2023). “Las inteligencias artificiales y sus regulaciones: pasos iniciales en Argentina, aspectos analíticos y defensa de los intereses nacionales”. Revista de la Escuela del Cuerpo de Abogados y Abogadas del Estado, 7(9), 195-217.

Zuboff, S. (2020). La era del capitalismo de la vigilancia, Barcelona: Paidós.