Hinteligencia Hartificial: EJH de las IAs

[rianxeira]

Es díficil de decir, pero consumen las dos cosas. Hemos solicitado una tarjeta de servidor de 300W, por el bien de los calculos diremos que todo el servidor consume 600W, y que lo vamos a tener a ese consumo todo el rato. A un precio medio de 0,25 el kw sale unos 100 euros al mes de electricidad, 432 Kw. Este servidor es modestito correrá en local un modelo relativamente pequeño al que no se espera que pasen muchos usuarios como prueba piloto. Ahora multiplica eso por lo que necesitas para que los 1000 tios de, yo que se, el ministerio de hacienda, accedan a un modelo personalizado que responda en tiempo no real pero si aceptable a preguntas diversas que haces sobre toda la documentación que poseen de todos los clientes de españa, estamos hablando de muchos MW al mes. Y sin refrigeración, que mover unas bombas para eso será otro pico. Ahora multiplicalo por todos los organismos del gobierno, empresas españolas y empieza a añadir gente de a pie que compra suscripciones a una AI para que le ayude con los deberes de los niños, o la chorrada que se te ocurra, alguna justificada y otras no.

[golondrino]

Precisamente un usuario de Mastodon le hizo una pregunta al chinorri sobre el tema del consumo de agua:

[wendigo]

Cuánto se aprende en este nuestro foro, gracias @wendigo y @rianxeira.

Por cerrar mi niputaidéica incursión en el tema, entiendo entonces que lo que gasta electricidad ¿no es tanto los procesadores en sí como el sistema de refrigeración que necesitan? ¿O las dos cosas gastan muchísimo y es la combinación lo que da facturas de la luz superiores a un cultivador de marihuana en un sótano de Chiclana?

Sí, ambos. Los procesadores gastan mucha electricidad.

Los procesadores están hechos de miles de millones de transistores de un material semiconductor, por lo cual por diseño no van a dejar de emitir un calor más o menos proporcional a la potencia que gastan. Esta es, como dije antes, la mayor limitación para la evolución de los microprocesadores. Por lo general cuanto más se miniaturiza la producción más eficientes son estos transistores, pero por lo visto al mismo tiempo al ampliar el número de transistores se producen unas fugas energéticas por no sé que mierdas, quizá alguien que entienda de física en el foro lo puede explicar.

Además, yo creo que ya se está alcanzando el límite de lo chiquititos que se pueden hacer los transistores (creo que cuando llegaron a 7nm ya se estancó un poco la cosa), por lo menos con la tecnología actual. A partir de ahí ya entramos en procesos completamente diferentes y de momento bastante sci-fi por lo cual no aprece que mejore muchísimo la eficiencia energética a corto plazo.

En definitiva, como ha dicho chino los procesadores han mejorado de una manera inimaginable en estas últimas décadas. Lo que pasa es que la demanda de capacidad de computación es aún mayor, y todo para mierdas que (en mi opinión) no se sabe si merecen la pena o no.

Dicho esto, respondiendo a tu pregunta no sé exactamente qué porcentaje de la energía usada es para los servidores y cual para enfriarlos en el caso de un datacenter . Así a ojo de buen cuñado te diría que como un 60-70% de la energía se gastará en alimentar los componentes de los servidores y el resto para enfriar, por cuestiones de física. Supongo que dependerá bastante del sistema usado, donde esté el servidor etc., pero por ahí debe estar la cosa.

Para que te hagas una idea, la última tarjeta gráfica comercial (para jugones, vamos, no para IA ni cosas de estas) tocha que ha sacado Nvidia gasta más o menos una tercera parte de lo que gasta el típico calefactor de aire pequeño que se suele usar para el baño. Hay gente que usa sus pcs minando bitcoin para calentar habitaciones .

[golondrino]

Sí, ambos. Los procesadores gastan mucha electricidad.

Los procesadores están hechos de miles de millones de transistores de un material semiconductor, por lo cual por diseño no van a dejar de emitir un calor más o menos proporcional a la potencia que gastan. Esta es, como dije antes, la mayor limitación para la evolución de los microprocesadores. Por lo general cuanto más se miniaturiza la producción más eficientes son estos transistores, pero por lo visto al mismo tiempo al ampliar el número de transistores se producen unas fugas energéticas por no sé que mierdas, quizá alguien que entienda de física en el foro lo puede explicar.

Te lo explico yo que soy de campo. El problema es que ya estamos tan tan tan al limite de la miniaturización que los electrones saltan entre pistas y ahí radica el problema.

La siguiente burbuja será la de la computación cuántica.

[M. Corleone]

Fuá, qué loco todo. Cuánto aprendo.

[Chino]

La ley de Moore ya no da para More.

Jajajaj. Chistaco informático.

[Ruttiger]

Me ha hecho gracia.

[CacaDeLuxe]

vamos a ver que se cuenta uno de los mayores divulgadores de IA en español

[M. Corleone]

Nuestro plan para dominar el mundo avanza, temblad.

[rianxeira]

Hablando de IAs locales, vi esto el otro dia....



Menos mal que hacemos la nuestra, si no nos vamos a la mierda.

Realmente me sorprendió, por lo que contaban esperaba que fuese la de la peor respuesta, supongo que en algún momento tendré que probarla a ver.