Kate Saenko
09/06/2023
Fuente: https://sinpermiso.info/
La inteligencia artificial (IA) generativa es la nueva tecnología de moda detrás de los chatbots y los generadores de imágenes. ¿Pero hasta qué punto está calentando el planeta?
Como investigadora en IA, a menudo me preocupan los costes energéticos de construir modelos de inteligencia artificial. Cuanto más potente es la IA, más energía consume. ¿Qué significa la aparición de modelos de IA generativa cada vez más potentes para la futura huella de carbono de la sociedad?
"Generativa" se refiere a la capacidad de un algoritmo de IA para producir datos complejos. La alternativa es la IA "discriminativa", que elige entre un número fijo de opciones y produce una sola cifra. Un ejemplo de resultado discriminativo es elegir si se aprueba o no una solicitud de préstamo.
La IA generativa puede crear resultados mucho más complejos, como una frase, un párrafo, una imagen o incluso un vídeo corto. Hace tiempo que se utiliza en aplicaciones como en los asistentes de voz para generar respuestas de audio, o en la función de autocompletar cuando se nos sugiere una búsqueda. Sin embargo, sólo recientemente ha adquirido la capacidad de generar un lenguaje similar al humano y fotos realistas.
Utiliza más energía que nunca
El coste energético exacto de un solo modelo de IA es difícil de estimar, e incluye la energía utilizada para fabricar el equipo informático, crear el modelo y utilizarlo en la producción. En 2019, los investigadores descubrieron que crear el modelo generativo de IA llamado BERT con 110 millones de parámetros consumía la energía de un vuelo transcontinental de ida y vuelta para una persona. El número de parámetros se refiere al tamaño del modelo, cuanto más grandes generalmente más hábiles. Los investigadores calcularon que la creación del GPT-3, mucho mayor y con 175.000 millones de parámetros, consumió 1.287 megavatios hora de electricidad y generó 552 toneladas de equivalente de dióxido carbono(CO2eq), que es lo que generan 123 turismos de gasolina conducidos durante un año. Y eso sólo para preparar el modelo para su lanzamiento, antes de que ningún consumidor empiece a utilizarlo.
El tamaño no es el único factor predictivo de las emisiones de carbono. El modelo de libre acceso BLOOM, desarrollado por el proyecto BigScience en Francia, tiene un tamaño similar al GPT-3, pero su huella de carbono es mucho menor: consume 433 MWh de electricidad y genera 30 toneladas de CO2eq. Según un estudio de Google, para un mismo tamaño, el uso de una arquitectura de modelo y un procesador más eficientes y un centro de datos más ecológico puede reducir la huella de carbono entre 100 y 1.000 veces.
Los modelos más grandes consumen más energía durante su despliegue. Hay pocos datos sobre la huella de carbono de una sola consulta de IA generativa, pero algunas cifras del sector estiman que es de cuatro a cinco veces superior a la de una consulta en un motor de búsqueda. A medida que se popularicen los chatbots y los generadores de imágenes, y que Google y Microsoft incorporen modelos lingüísticos de IA a sus motores de búsqueda, el número de consultas que reciben cada día podría crecer exponencialmente.
Bots de inteligencia artificial para búsquedas
Hace unos años, no mucha gente fuera de los laboratorios de investigación utilizaba modelos como BERT o GPT. Eso cambió el 30 de noviembre de 2022, cuando OpenAI lanzó ChatGPT. Según los últimos datos disponibles, ChatGPT tuvo más de 1.500 millones de visitas en marzo de 2023. Microsoft incorporó ChatGPT a su motor de búsqueda, Bing, y lo puso a disposición de todo el mundo el 4 de mayo de 2023. Si los chatbots llegan a ser tan populares como los motores de búsqueda, los costes energéticos de desplegar las IA podrían llegar a ser realmente elevados. Pero los asistentes de IA tienen muchos más usos que las búsquedas, como redactar documentos, resolver problemas matemáticos y crear campañas de marketing.
Otro problema es que los modelos de IA deben actualizarse continuamente. Por ejemplo, ChatGPT sólo se entrenó con datos hasta 2021, por lo que no sabe nada de lo que ha ocurrido desde entonces. La huella de carbono de la creación de ChatGPT no es de dominio público, pero es probable que sea mucho mayor que la de GPT-3. Si tuviera que volver a crearse, ChatGPT se vería afectado. Si tuviera que recrearse periódicamente para actualizar sus conocimientos, los costes energéticos serían aún mayores.
Una ventaja es que preguntar a un chatbot puede ser una forma más directa de obtener información que utilizar un motor de búsqueda. En lugar de obtener una página llena de enlaces, se obtiene una respuesta directa como la que daría un humano, suponiendo que se mitiguen los problemas de precisión. Obtener la información más rápidamente podría compensar el mayor consumo de energía en comparación con un motor de búsqueda.
El futuro
El futuro es difícil de predecir, pero los grandes modelos generativos de IA están aquí para quedarse y es probable que la gente recurra cada vez más a ellos en busca de información. Por ejemplo, si ahora un estudiante necesita ayuda para resolver un problema de matemáticas, se la pide a un tutor o a un amigo, o consulta un libro de texto. En el futuro, es probable que se lo pida a un chatbot. Lo mismo ocurre con otros conocimientos especializados, como el asesoramiento jurídico o los conocimientos médicos.
Aunque un único gran modelo de IA no va a arruinar el medio ambiente, si mil empresas desarrollan robots de IA ligeramente diferentes para fines distintos, cada uno utilizado por millones de clientes, el uso de energía podría convertirse en un problema. Se necesita más investigación para que la IA generativa sea más eficiente. La buena noticia es que la IA puede funcionar con energías renovables. Llevando la computación a los lugares donde la energía verde es más abundante, o programando la computación para las horas del día en que la energía renovable está más disponible, las emisiones pueden reducirse en un factor de 30 a 40, en comparación con el uso de una red dominada por los combustibles fósiles.
Por último, la presión social puede ser útil para animar a las empresas y laboratorios de investigación a publicar las huellas de carbono de sus modelos de IA, como ya hacen algunos. En el futuro, quizá los consumidores puedan incluso utilizar esta información para elegir un chatbot "más ecológico".
Fuente:
Traducción:
No hay comentarios:
Publicar un comentario