Блеск и нищета Искусственного Интеллекта

[джелави]

с большинством справляются и мощные классические компьютеры, хотя и потребляют мега- и гигаватты.

какие конкретно им ставились задачи, для которых бы требовались гигаватты? Перечисли несколько

[QY]

Гигаватты на задачу обучение, мегаватты на каждое дообучение, от десятка киловатт до сотен (DeepSeek R1)  при ответах в режиме "глубокого мышления". Цифры можете спросить у ИИ, я их видел, конкретные. Мозг человека всё время дообучается в самых разных аспектах и модальностях (включая тактильные), и потребляет 20-25 ватт.

[джелави]

Цифры можете спросить у ИИ, я их видел, конкретные.

уже спрашивал. ГПТ пару лет назад сказал как то, что на запрос уходит в среднем киловатт. Гемини сейчас выдаёт другие данные типа 0,0003 кВт·ч электроэнергии.

от десятка киловатт до сотен (DeepSeek R1)  при ответах в режиме "глубокого мышления".

это вообще бредятина

[QY]

это вообще бредятина

Таковы независимые от производителей исследования.

A version of DeepSeek’s R1 model required 308,186 watt hours to complete a task with reasoning turned on, and only 50 watt hours when the feature was turned off.

One of Microsoft’s Phi 4 reasoning models used 9,462 watt hours to complete tasks with reasoning turned on, and 18 watt hours with reasoning turned off.

OpenAI’s GPT-OSS model showed a reduced disparity, consuming 8,504 watt hours to complete tasks with reasoning set to “high” and 5,313 watt hours with reasoning set to “low”.

Complex tasks
The researchers ran all the models on the same hardware, with the same prompts ranging from relatively simple queries to complex math problems.

[джелави]

Таковы независимые от производителей исследования.

это было давно и неправда. Всё поменялось https://chat.deepseek.com/share/dhfwex3yori90tdmip

[QY]

это было давно и неправда. Всё поменялось https://chat.deepseek.com/share/dhfwex3yori90tdmip

Как не оптимизируй, а одна карта NVIDIA H100 только в режиме покоя потребляет 50-70 ватт, и до 700 ватт на пике работы (в отличие от 20-25 ваттного мозга), а сколько их использовалось при обучении (>2000)? Сколько нужно чтобы ответить хотя бы на 1 запрос? Сколько используется в датацентрах с системой охлаждения, чтобы обеспечить красивый показатель "ватт на 1 запрос"?

В любом случае энергоэффективность мозга (не говоря уж о размерах), например профессора, до которого пока не дотягивают ИИ (не на все вопросы соотв. экзаменов могут ответить), и который постоянно в режиме обучения -  гораздо выше ИИ на известных технологиях. А значит, мозг использует совсем другую технологию, и данные квантовой биологии подсказывают, что скорее всего - квантовую.