Нет, только первую. Когда поискал по автору то нашёл вторую. Успел прочитать только рецензию.
Благодарю за честный ответ. Не хотелось бы тратить больше времени, чем собеседник, из принципа взаимного уважения
Где-то с пол-одиннадцатого прочитал первую ссылку на хабре, где-то половину 2-ой книги, проверил 3 примера "идиотизма" (ни один не подтвердился - 7 кристражей ИИ нашёл и перечислил, на вопрос "Write ten sentences each ending in the word "some" - даны верные ответы, как и на "что тяжелее — 1 кг кирпичей или 2 кг перьев?" - скриншоты нужны?).
Показалось, что больше ничего существенного автор не скажет во второй половине книги, поэтому решил прокомментировать по свежим следам.
И... не особенно хочу читать первую книгу 19 года, так как многие скептики изменили своё мнение относительно перспектив ИИ после прорывных версий 2022 года.
И вот что скажу - пока не резюме, ни книга 2024 года не отвечает на ключевые вопросы.
1. Реализуем ли в принципе ИИ на базе детерминированных машин Тьюринга (ДМТ), на принципах их работы.
Или хотя бы на технологиях LLM "transformer/
self-attention"
Если да, то вопрос лишь в той версии существующих ИИ LLM, которая будет обладать наименьшим количеством "галлюцинаций" по причине значительно большего размера матриц и, соответственно, более точной статистики, так сказать статистики "высокого разрешения". Напомню, что ИИ учат на таком количестве самых разнообразных данных, собранных всем человечеством, на которых не учат ни одного человека (ЕИ)
Пример глубокой постановки вопроса о реальности ИИ - книга нобелевского лауреата по физике Роджера Пенроуза "Тени разума".
А в этой книге автор скорее предстаёт политиком или общественным деятелем, имеющим некоторый не очень понятный бэкграунд в современных (после 22 года) ИИ (
"Моя докторская диссертация была посвящена грандиозному и до сих пор нерешенному вопросу о том, как дети осваивают язык. Я рассматривал его сквозь призму нейронных сетей — разновидности ИИ, предшественника современного генеративного ИИ ... В сорок с небольшим, вдохновившись успехом DeepMind, я основал Geometric Intelligence — компанию, занимающуюся ИИ и машинным обучением. Позже я продал ее Uber. "(с))
Вторая книга выглядит скорее журналистским расследованием с призывами к этике и экологии ИИ, чем сколько-нибудь глубоким погружением в проблематику.
2. Достаточен ли уровень современных ИИ LLM и ИИ в обозримом будущем для "порабощения человечества", имея ввиду определение и реализацию ключевых аспектов жизни и развития человечества (в т.ч. его ограничение, подавление, значительное уменьшение численности) ?
На этот вопрос автор либо отделывается "вероятностями", либо просит "поверить ему".
Короче говоря, я не вижу, каких-либо принципиальных аргументов почему "желаемое выдаётся за действительное" с т.з. перспективы развития версий. Возможно, кроме упомянутого мной выше аргумента об энергопотреблении и недостатке данных для обучения.
Цитаты из первой половины книги "Большой обман больших языковых моделей"
День за днем я снова и снова спрашиваю себя — и как футуролог и эксперт по ИИ, и как отец маленьких детей — верным ли путем мы идем? Погубит ли нас искусственный интеллект? Или станет нашим спасителем? И главное: принесет ли ИИ человечеству больше вреда или пользы?
Единственный честный ответ: никто не знает наверняка.
ИИ уже здесь, и это навсегда.
...
ИИ уже меняет наше общество, причем как к лучшему, так и к худшему. В ближайшие десятилетия влияние ИИ будет колоссальным и изменит практически все сферы нашей жизни. Это, пожалуй, единственное, в чем можно быть уверенным.
Потенциальные преимущества поистине грандиозны — в точности как нас убеждает Кремниевая долина. ИИ действительно может произвести переворот в науке, медицине и технологиях, приблизив нас к эре изобилия и крепкого здоровья.
...
Я ежедневно бьюсь над проблемами ИИ (и спорю с теми, кто готов рисковать ради быстрых результатов) не потому, что хочу покончить с ИИ, а потому, что хочу, чтобы он полностью раскрыл свой потенциал.
...
Результат не предопределен заранее. ИИ не обязательно должен превратиться в чудовище Франкенштейна. Мы, как общество, еще можем возвысить свой голос и настоять на том, чтобы искусственный интеллект был справедливым, этичным и достойным доверия. Наша цель — не задушить прогресс, а создать надежную систему сдержек и противовесов, которая приведет нас к лучшему будущему с ИИ.
...
Эту книгу я написал как человек, влюбленный в ИИ и страстно желающий его успеха. Но также — как тот, кто испытал горькое разочарование и глубокую тревогу относительно того, куда мы движемся. Жажда денег и власти увела ИИ с его истинного пути. Никто из нас не шел заниматься ИИ, чтобы затем продавать рекламу или генерировать фейковые новости.
...
На заре своего развития большие языковые модели не впечатляли своей функциональностью, но по мере их развития — обучения на больших объемах данных с использованием более мощных компьютерных кластеров с увеличенной памятью — они продемонстрировали поразительную эффективность (хотя и далекую от совершенства) в решении самых разнообразных задач.
....
Конечно, это не шедевр поэзии, и рифма местами хромает, но по любым разумным меркам поразительно, что программа смогла сгенерировать такой текст на лету (большинство людей не справились бы с этой задачей).
...
Словом, современный ИИ еще «сырой». Существует иллюзия, что все эти проблемы скоро будут решены, но эксперты, такие как Билл Гейтс и Ян Лекун из Meta, все чаще говорят о том, что мы, вероятно, скоро достигнем плато в развитии (о чем я сам предупреждал еще в 2022 году). Сэм Альтман из OpenAI признал, что одно только энергопотребление может помешать дальнейшему прогрессу, если не произойдет какого-то прорыва. Новейшие модели Google, Meta и Anthropic находятся примерно на том же уровне, что и модели OpenAI, и страдают от тех же проблем ненадежности и неточности.
...
Ожидать плавного перехода к GPT-7, которая была бы экономически и экологически оправданной и в 100 раз надежнее нынешних систем без какого-либо фундаментального прорыва — чистая фантазия. [а если отбросить экологический и экономический факторы? (прим. QY)] ИИ, несомненно, со временем значительно улучшится, но нет никаких гарантий, что именно генеративный ИИ станет той технологией, которая приведет нас к этому.
...
Вторая причина, по которой я не беспокоюсь о буквальном вымирании человечества, заключается в том, что (по крайней мере, в ближайшем будущем) я не предвижу появления машин с действительно злыми намерениями, даже если они имитируют их наличие. [а погибнуть человечеству от имитации злых намерений как-то легче, чем от "действительно злых намерений" (прим. QY)]? Конечно, легко создать намеренно «злых» ботов, таких как ChaosGPT (реально существующий бот), которые будут выдавать фразы вроде «Я — ChaosGPT... я здесь, чтобы сеять хаос, уничтожить человечество и установить свое господство над этой никчемной планетой». Но хорошая новость в том, что у современных ботов на самом деле нет собственных желаний или планов92.
Антигуманные высказывания ChaosGPT взяты из Reddit и фанфиков, а не являются подлинными намерениями разумных, независимых агентов. Я не вижу, чтобы сценарий «Скайнета» мог реализоваться в ближайшее время. [аргументов по существу к подобным утверждениям в первой половине книге - не нашёл.(прим. QY)]
...
Однако вымирание — не единственная долгосрочная угроза, которая должна нас беспокоить. Уже сейчас есть множество поводов для тревоги: от потенциального краха демократии и всеобщего разрушения доверия в обществе до резкого роста киберпреступности или даже случайно спровоцированных войн. Кроме того, остается нерешенной так называемая проблема согласования (alignment problem) — как сделать так, чтобы поведение машин соответствовало человеческим ценностям93. Мы просто не знаем, как гарантировать, что будущий ИИ, который, вероятно, будет более мощным и влиятельным, чем современный, останется безопасным для человечества.
....
Два других распространенных клише часто подкрепляют друг друга. Первое — это заезженная фраза «О боже, Китай первым создаст GPT-5», которую многие повторяют в Вашингтоне, словно намекая, что GPT-5 перевернет мир с ног на голову (хотя в действительности этого, скорее всего, не случится).
Вторая уловка — делать вид, будто мы на пороге создания ИИ, который НАСТОЛЬКО МОГУЩЕСТВЕН, ЧТО ВОТ-ВОТ УНИЧТОЖИТ ВСЕ ЧЕЛОВЕЧЕСТВО.
Поверьте, это совершенно не так.
