ищу ответы на вопросы: "Чем ЕИ фундаментально отличается от ИИ? Есть ли у нас какое-то тайное преимущество? И не завладеет ли в конце концов ИИ всеми рычагами управления миром (с непредсказуемыми последствими)?
Если считать ИИ это Большие Языковые модели (БЯМы), с которыми можно початиться,
то преимущество ЕИ перед ними такое: ЕИ имеет дело с реальным миром, воспринимая
его органами чувств и строя внутреннюю модель мира (которая может быть как адекватной
в той или иной мере, так и полной фигнёй) и на базе этой модели действует в этом мире.
На неё же опирается т.н. здравый смысл, понимание и сознание, что полностью отсутствует
у БЯМов. Те работают только со словами, но никак не взаимодействуют с миром.
И в этом их слабость.
И вот тут еще вопрос - а могут ли у него быть эти "интересы"? именно чтоб полностью "свои", а не производные от "эффективности поставленных человеком задач"... Хрен его знает.
Ну и откуда у него "свои интересы"? У него нет ни тела с его потребностями, н чувств, ни ощущений,
ни желаний, ни эмоций. Всё идёт от людей. И опасаться надо что найдутся умники, которые используют ИИ как орудие
в своих гнусных целях. Сами же нейросети нейтральны. Это просто набор связей между "нейронами" (которые по сути
своей простые математические функции, а связи (точнее их веса) формируются в процессе обучения на огромном
количестве текстов и отражают некие статистические закономерности. И ещё есть набор алгоритмов, которые
не формируются в процессе обучения, а задают внешние параметры работы сетей, например "дружелюбие с клиентом"
или "политкорректность" и прочие подобные "рамки". И ни к какой власти над людьми эти наборы
алгоритмов не стремятся сами по себе. Она им не нужна, да и ничто другое им не надо.
Но вот людям пищущим эти алгоритмы вполне всё надо. И побольше
