User avatar

Длинный текст (предположительно, с несколькими мыслями!) про понимание-объяснение и немножко нейросети.

Comment

В предыдущих, например, сериях: https://mokum.place/zverok/1724427 — Software 2.0 и моя попытка примириться с тем что нейросети это таки оно (потому что распознавание и генерация образов = понимание и объяснение); https://mokum.place/zverok/1215583 — что должна сделать машына чтобы её «воспринимали» как человека (избыточность в себе вырастить); https://mokum.place/zverok/399148 — может ли робот сочинить симфонию (это неверная постановка вопроса, верная — сочтём ли мы это симфонией; а также рассуждения о сути искусства).

 ‎· просто варежка
Comment

(перечитывая некоторые старые посты, понял что слишком мусорно пишу часто из-за стремления обвесить каждое утверждение тыщей «сильно упрощая,», «вообще говоря,», «насколько я понимаю,» и проч. тут их не будет, но они как бы есть.)

 ‎· просто варежка 1
Comment

1. Человеки созданы для восприятия и понимания, по определению. Весь наш прогресс, в идеях и предметах, в пределе — это либо устранение помех к тому чтобы сидеть и понимать (чтобы было тепло, светло и мирно), либо наладка инструментов понимания (осознанность, рефлексия), либо чтобы было больше материала для понимания (космосы и проч.)

 ‎· просто варежка
Comment

2. Как социальные звери, мы занимаемся этим пониманием все вместе. Вася что-то понял, рассказал Пете, а Петя сопоставил это с тем что знал сам и понял ещё что-то и написал книжку, и лет чз 50 Маше как раз после этой книжки стало понятно, что (совсем не то что Петя туда вкладывал, но)

 ‎· просто варежка
Comment

3. Чудо человеческой коммуникации, которое нужно для (2), замечательно своей избыточностью. Вся наша культура и есть представление и обслуживание этой избыточности. В программерских сообществах есть такой класс статей — длинная история решения какой-то проблемы, в которой пригодилась старая, но недопонятая (автором) идея, под стандартным заголовком «When %название идеи% clicked for me». Вот что такое наша культура — излагать что-нибудь так, чтобы оно «щёлкнуло» для читателя/зрителя/слушателя. По-другому мы не умеем.

 ‎· просто варежка
Comment

4. Это касается всего — и науки, и искусства, и повседневного смоллтолка, любая попытка передать своё понимание каких-то штук требует дополнительных средств, многократных повторений, поиска подходов и нотаций, восприятия критики — и всё ради того чтобы для кого-то «щёлкнуло» своё, на эмоциональном или интеллектуальном уровне, расширилась его собственная возможность что-то понять/увидеть.

 ‎· просто варежка 1
Comment

5. Избыточность ради того чтобы «щёлкнуло» — не обязательно «объяснение, потому что слишком сложно»! Это может быть «сделать адресату интересно, так чтобы он таки дочитал до основной мысли» или «уже известную идею рассказать более убедительно» или даже «непривлекательную ранее идею подать как нечто иное» (во всём виноваты жиды, но не потому что они гадкие, а вот такой вот интересный у нас есть про это нарратив). То есть как-то «сделать» так, чтобы идея внутрь человека легла не сама по себе, а сочлась с другими близкими ему идеями, опытом, симпатиями». Ну вот да, чтобы щёлкнуло и стало на какое-то место в этой конструкции.

 ‎· просто варежка 2
Comment

(кстати, вся эта пиздёжь про «чтобы понять Молдбага надо ууу» я так понимаю на самом деле означает «если изложить на полстранички, у тебя не щёлкнет, а вот если на четыре книжки...»)

 ‎· просто варежка
Comment

(По изложенным выше причинам, скажем, «искусство» где «всё как жизни», без какого-то added value — это такой карго-культ, нелетающий самолёт выглядящий как самолёт, избыточная попытка изложить ничто иное кроме «жизнь она как жизнь». Что вполне может кому-то пригодиться для понимания. Не больше чем просто жызнь, но и не меньше.)

 ‎· просто варежка 1
Comment

6. Коммуникационный акт (научная статья, книжка, симфония, разговор) складывается из опыта (какие факты были у говорящего), оптики (как он их отбирал и сопоставлял) и поэтики (как он это изложил). Факты «просто есть», добавленная стоимость коммуникации и автора в ней — это оптика и поэтика. «Я давно знал, что X, Y, Z, но когда одновременно прочитал как Вася излагает X и Y, и поболтал с Петей про Y-Z, something clicked, и я вдруг понял что X²», как-то так я это себе представляю.

 ‎· просто варежка 1
Comment

7. Интересно, что: фактов пиздец дохуя (очень много), сопоставить их можно бесконечным количеством способов, изложить тоже довольно по-разному, а «щёлкает» редко. Но чтобы щёлкнуло надо накапливать внутри себя всякое (тяжело найти подходящую фигурку многомерного тетриса, если на дне пока что лежит всего одна другая фигурка); но чтобы оно накапливалось, а не игнорироваться/забываться, оно должно со-полагаться, «щёлкать». Человеком быть сложно!

 ‎· просто варежка
Comment

Q: При чём здесь нейросети? А: Весь этот текст вырос из попытки подумать, может ли нейросеть в человеческое — именно вот в этом смысле: участие в создании культуры.

 ‎· просто варежка
Comment

8. Что мешает нейросетке написать хороший нон-фик, или там травелог? Кажется, почти ничего. «Опыт» есть? Есть (в виде моря оцифрованных фактов). Оптика (какие факты выбрать, как их сопоставить чтобы было «интересно») — кажется, можно «натренировать на примерах»? Поэтика — вполне, тоже, тренируется (да ещё и на нескольких скажем разных авторах, получая нечто «среднее» — но не в плохом смысле среднее, а в многомерном пространстве возможностей, «взять лучшее у лучших», такое). Всё это представляется набором задач технических, даже если пока и нерешённых.

 ‎· просто варежка
Comment

9. Что мешает нейросетке написать хороший роман? Нарисовать картину? Сочинить симфонию? Эссе о сравнении тёплого с мягким, из которого убедительно будет «щёлкать» что читателей Молдбага надо бить мокрой сетью по морде? Кругом вопросы.

 ‎· просто варежка
Comment

10. Уникален же только опыт (факт либо известен, либо нет; при этом нейросетке доступен весь опыт человечества, а тебе нет!), а оптика и поэтика вполне комбинаторно подбираются. То есть всё что работает со статистическими методами потенциально может достигнуть любой оптики и поэтики — в т.ч. и той, которая сделает для вас лично «щёлкнуть».

 ‎· просто варежка
Comment

«Вывод — это место, где автор устал писать.» EOT, dicsuss.

 ‎· просто варежка
Comment

Ужасно не хватает Неяглова с комментом «ты пытаешься описать ****изм, кроме него ещё существуют ***изм, ***азм и ***ия, описано в этих восьми книжках»

 ‎· просто варежка 2
Comment

Чтобы человеки признали робота за своего, он должен быть очень похож на человеков, по кр. мере в том аспекте, в котором он пытается вклиниться в культуру. (Лет 15 назад @hotgiraffe подгонял мне прекрасную книжечку "Galatea 2.2" о побочных эффектах этого для самой нейросетки.) Думаю, ИИ вполне можно обучить какому-нибудь аспекту культуры так, чтобы результат людям оказался интересен. Проще всего, думаю, в области абстрактного искусства: музыки, пейзажной или даже портретной фотографии, etc. Хуже всего с литературой, там надо знать очень много контекста как из прочей культуры, так и из данной в ощущениях — но не в текстах — повседневной жизни, опыта быта и тела, желательно ещё и в разных временах и обстоятельствах. Поэтому написать великий роман ИИ будет очень трудно, не став в прочих аспектах квази-человеком, но тут вмешается как цена вычислительного ресурса, так и комитет по этике. Легче пойдут словесные жанры, где ожидается недоговорённость, "образность" и прочая неточность: некоторые жанры поэзии (хокку о природе), песни (можно заодно и петь), etc. Это если о "художественной" культуре. С "научной" культурой всё будет намного проще, математики и физики уже сейчас работают почти только в симбиозе с компьютерами, которые делают за них утомительную умственную работу вроде решения гигантских систем уравнений, статистических классификаций, etc. Это дело будет органически расти, и условная Mathematica через 50 версий сама будет предлагать гипотезы и прилагать к ним готовые леммы с доказательствами, и человек и машина будут думать вместе, в feedback loop.

 ‎· 9000
Comment

"Mathematica через 50 версий" is the new "машинный перевод через 20 лет"

 ‎· неожиданные свойства свинины 2
Comment

@artemandreev: Ну, ээ, давайте вспомним машинный перевод 20 лет назад и сравним с нынешним? Нет, уровня человека он не достиг. Да, он стал намного более полезным инструментом в достаточно простых случаях.

 ‎· 9000
Comment

не, не стал. Т.е. конкретно с машинным переводом, как мы тут уже не раз обсуждали, тупо вычислительная мощность стала достаточно. Ну нельзя в 64k памяти запихать большой словарь, а тем более корпус, а в 64P или сколько там у гугла дискового пространства - можно. (Даже я в свое время был удивлен, насколько хорошо первые системы машинного перевода работали _в принципе_, если отвлечься от размера словаря, так вот лучше оно не стало). Но с математикой все еще интереснее, потому что всякий математико-логический софт _действительно_ очень активно развивается в плане техники _доказательств_, но абсолютно никакого прорыва в _обнаружении_ новых интересных теорем как не было, так и нет.

 ‎· неожиданные свойства свинины
Comment

ну хорошо, он стал более полезным инструментом, я согласен, на самом деле, но прорыва не случилось (вот тут как раз пример у меня: https://mokum.place/artemandreev/1800736)

 ‎· неожиданные свойства свинины

1 2 3 4 5 6 7 8 9 10