The upcoming Warhammer 40k show might look like, Imagining "Warhammer 40k TV show" / Wh Other :: очень длиннопост :: MidJourney :: нейроарт :: Warhammer 40000 (wh40k, warhammer 40k, ваха, сорокотысячник) :: нейронные сети :: длиннопост :: много картинок :: подборка :: фэндомы

И их бугурт вполне оправдан (хотя сформулирован обычно так себе):
Корпорации, которые создают нейросетки и занимаются сомнительной легальности датамайнингом стремятся создать прецедент, развязывающий им руки в отношении авторского права. То, что некоторые нейросетки выложены в открытый доступ - тоже часть этой стратегии. Та же SD достаточно мелкая, чтобы работать на протребительском железе, в то врмея как реально крупные коммерческие нейронки будут распространяться как облачный сервис так как только у какого-нибудь Google, Amazon или Microsoft (который уже объявил о планах интегрировать нейронки OpenAI в свои продукты) есть необходимые мощности.

Я и не вел речь ни о самосознании (self-awareness), ни о сознании (феноменологическое сознание, квалия и прочая хрень).

Гипотеза 1: для выполнения возлагаемых на ИИ задач, втч задач, связанных с пониманием семантики, втч для AGI (Artificial General Intelligence), сознание не требуется, и его наличие или отсутствие не принципиально для возможности создания такого ИИ-агента. (Да-да, та самая "Ложная слепота").

>Но на практике, под сильным искусственным интеллектом понимается система, выполняющая ряд конкретных задач так же, как человек, но быстрее.
Не соглашусь с этим определением. Я за другое. Сильный ИИ (или же AGI) - способность интеллеткуального агента справится с любой, в том числе новой, задачей, с которой мог бы справится человек. В отличие от конкретной узкой задачи, на которые заточены современные ИИ-агенты.

>"китайскую комнату": можно создавать правильные с точки зрения языка предложения, вообще не понимания смысла предложений.
Контр-агумент (гипотеза): человек в комнате не понимает смысл, но система "человек-комната" - понимает.
Альтернативный контр-аргумент: если система "человек-комната" проходит тест Тьюринга, т.е. внешний наблюдатель не видит никаких проблем в разговоре с комнатой, не видит проблем с пониманием семантики итп итд, то не важно, "понимает" ли система "человек-комната" семантику или нет. Главное, что она функционирует правильно.

Более того, я считаю, что вообще термины "понимает/не понимает", "знает/не знает" и так далее, которыми обсуждают ИИ - некорректные. Понимание - субъективный процесс, восприятие (только не внешнее, а внутреннее). Квалиа. Если Гипотеза 1 верна, то нам не нужно сознание и квалиа для интеллекта. И все эти рассуждения не имеют смысла.

> Я думаю, что это немного не так. Современные нейронные сети - это буквально математическая обработка исходных образцов и генерация новых образцов/распрознавание образов/распознавание признаков. Ничего другого данные алгоритмы не выполняют.
Это опять редукционизм. Вы говорите о принципах работы сетей, но не об эмерджентных свойствах, которые получает система.

> Думаю, что не получим.
> Не имеет значения, как будет масштабироваться данный алгоритм. Для решения проблемы семантики нужен другой алгоритм/другая технология.
Я бы не был так уверен. Я не знаю, может ли текущий подход путем масштабирования привести к AGI. Ряд авторов говорит, что да. Я не берусь со всей уверенностью утверждать, что современные сетки - это верный путь к AGI, ровно как и то, что это точно не приведет нас к AGI.
Поэтому мне интересно, на чем основывается ваше категоричное утверждение, что нужен иной подход? Я бы сам был более рад другому, более изящному подходу, чем скормить терабайты в сетку, которая предсказывает следующее слово. Но пока что практика говорит об обратном.

К сожалению, я пока не сильно подкован в вопросах масштабирования, анализа и перспектив языковых моделей. У меня в списке "почитать" лежит куча всего на тему. Как работают сетки, даже трансформеры и аттеншн, я понимаю, но не дальше.

Ссылочки
1. https://www.gwern.net/Scaling-hypothesis
2. https://habr.com/ru/users/leventov/
Этот автор немного пишет на эту тему. Особенно интересны его комментарии, где он дает много ссылок. Правда, он очень оптимистично (или пессимистично, тут с какой стороны посмотреть) настроен, и уверен, что языковые модели - путь к AGI, и путь уже почти пройден. Возможно, он не объективен и приводит лишь материалы в поддержку своих взглядов. Вы были предупреждены.
3. https://arxiv.org/abs/2110.09485
Эта статья отвечает на вопрос: занимаются ли нейросети интерполяцией или экстраполяцией обучающих данных. При больших размерностях, имеет место экстраполяция. Т.е. происходит не "смешивание" в различных пропорциях элементов обучающих выборок, а возможна обработка новых данных (за пределами "training convex hull"). Если я правильно интерпретирую этот результат, то, условный midjourney не просто делает "коллаж" из кусочков ранее виденных изображений, а может генерировать изображения, не похожие на то, что было в выборке.