![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Об ИИ и о математике
Oct. 8th, 2026 07:28 pmВажнейшие длящиеся мировые события: продолжается война в Украине, продолжается американское президентство Трампа (плохо и — с учётом следующего пункта — очень невовремя) и стремительно развивается ИИ. По последней теме я разделяю обеспокоенность рационалистов катастрофическими рисками, хотя и надеюсь, что даже сверхразумный ИИ не сможет создать достаточно короткие циклы обратной связи для обучения себя сведениям о реальном мире, чтобы с одного раза захватить мир; кажется вполне вероятным, что у нас будут достаточно серьёзные инциденты, связанные с ИИ, которые смогут привести правительства к спасительному жёсткому регулированию этой отрасли.
Я хочу более подробно поговорить про ИИ в чистой математике, оставив в стороне другие аспекты. В июне я опубликовал статью в N+1 на эту тему, и уже тогда её приходилось дописывать буквально каждый день перед выпуском. Рабочее название статьи было «Вы находитесь здесь»: как бы есть список вех, достижимость которых последовательно отрицается скептиками, но которые, тем не менее, последовательно достигаются и будут достигаться дальше. Как и в случае исходного мема, с момента этого наблюдения прошло ещё несколько вех. ИИ решает всё больше открытых математических задач, и эти результаты всё интереснее.
Как математика, меня это радует. Мне интересно знать математические истины. Мне также приятно самостоятельно разбираться в математике.
Многие математики реагируют на такое развитие событий резко отрицательно и даже настаивают, чтобы никто другой тоже не использовал ИИ для решения открытых математических задач в полную силу (вот особенно яркий пример). Мне это не нравится. Перечислю свои разногласия с критиками.
Критики ИИ-математики регулярно ругают ИИ-результаты как слишком сильно полагающиеся на предшествующие работы или, наоборот, никому не интересные. Такую критику я принимаю на свой счёт: математика есть математика, и если, скажем, результат о единичных расстояниях недостаточно хорош или даже решение задачи тысячелетия недостаточно хорошо, то по такой логике все мои собственные результаты вообще не имеют шансов заслужить доброго слова. Ну спасибо!
Ещё говорят, что решение какой-нибудь известной задачи само по себе не имеет ценности, а важны «друзья, которых мы обрели по пути», то есть развитые для решения задачи методы. Здесь, во-первых, я не согласен с первой посылкой. Как я говорил, мне важны математические факты; методы интересны лишь постольку, поскольку они позволяют эти факты открывать. Говорить, что решение задачи не имеет ценности, это снова обесценивать саму математику.
Во-вторых, я не согласен с тем, что стоит расстраиваться из-за того, что не были развиты какие-то методы для решения задачи. Тао приводил в пример последовательное снижение бесконечно много раз встречающегося расстояния между соседними простыми: для каждого снижения кто-то разрабатывал новый метод, а вот если бы откуда-то сразу появилось доказательство бесконечности простых-близнецов, то ничего этого не было бы. На мой взгляд, считать, что решение задачи тут что-то портит — нелогично. Если метод имеет ценность, даже если полученный с его помощью результат впоследствии был усилен другим методом, то над этим методом следует работать, даже если задача уже была решена раньше; а если не имеет, то нечего и переживать, что эти методы не будут разработаны.
(Не говоря уж о том, что скоро ИИ спокойно будет и новые методы развивать, и теории строить.)
На это критики возразят мне, что нет никакого стимула работать над методом для решения уже решённой задачи, ведь статьи об этом не будут публиковать, а если и будут, то такие результаты не позволят получить хорошую работу. А я на это спрошу: а как так получилось? Кто же это решает, какие статьи публиковать? Кто консультирует грантодателей, на что давать денег? Кто выбирает, кого нанять на открывшуюся позицию? Вы и решаете-с! Мы, математики, сами это решаем. И если вы действительно считаете, что и после полного решения задачи разные развитые для неё методы имеют ценность, то пишите положительные рецензии на статьи с новыми интересными методами для решения уже решённых задач и нанимайте их авторов в свои научные группы, только и всего. А не предлагайте перестать доказывать теоремы быстрее. (Соответственно, критику Делиня Гротендиком я тоже не принимаю.)
Конечно, играют роль не только приземлённые материи типа публикаций и карьеры, но и внутренняя мотивация. Математики-критики говорят, что не хотят решать задачу, которую кто-то уже решил, и не хотят разбираться в решениях, которые нашёл ИИ. Это отчасти справедливо. Тут действительно что-то потеряно для нас. Но масштаб этой потери, на мой взгляд, преувеличен. Я не особенно стремлюсь быть первооткрывателем, мне нравится сам процесс исследования математической задачи или теории. Возможно, я в этом отношении выделяюсь. Но мне кажется, что большинство математиков, которые выдвигают такой аргумент, переоценивают своё первопроходство и его важность. Мы ведь все полюбили математику ещё за долгие годы до того, как смогли открыть что-то действительно новое. Мы читали и продолжаем читать огромное количество чужой математики; мы постоянно исследуем примеры, чтобы лучше понять ту или иную концепцию, и это само по себе приятно и интересно, несмотря на то что до нас ровно те же примеры разбирали другие люди. Моменты прохода по целине и так очень редки, и если бы больше ничего нас в математической работе не радовало, едва ли бы мы ей занимались.
Возможно, я всё-таки в большей степени платонист. Мы исследуем мир математических идей как новооткрытый континент, как Америку. Мне не так важно, кто первый нашёл озеро в кратере Килотоа, мне просто приятно его видеть. Если вместо самого озера кто-то хочет рассмотреть тропинки, ведущие к нему, это тоже можно сделать, даже если мы теперь можем доехать до кратера на джипе. При этом вся суша на Земле уже кем-то исследована, и ничего, живём.
На мой взгляд, эссе Конец эпохи героев хорошо отделяет те радости труда математиков, которые никуда не денутся от пришествия ИИ, от тех, которые действительно уйдут. Автор — Ноа Смит — не математик и вообще не всегда прав, но это эссе, по-моему, бьёт в самую точку.
Осталось ещё упомянуть, что некоторые критики считают не имеющим ценности доказательство, которое написано, но не понято людьми. На это у меня два возражения. Первое — такое же, как и про методы: если понимание доказательства — ценный труд, то в наших силах поощрять математиков, которые этим занимаются. А я, кстати, согласен, что это ценный труд; более того, пожалуй, это суть самой работы математика, тот странный продукт, который мы производим большую часть своего рабочего времени: понимание старых (придуманных кем-то ещё) и новых (только что открытых нами) математических фактов, теорий и рассуждений.
Второе моё возражение в том, что выражение «математическое доказательство — это текст, который убеждает читателя в истинности теоремы» (которое в этом контексте обосновывает, что доказательству нужен читатель) — пижонское и, что хуже, неверное. Правильное математическое доказательство — это в первую очередь логическая последовательность рассуждений. И мне задолго до ИИ было ясно, что формализация (в идеале) улавливает самую суть доказательства. Соответственно, если доказательство автоформализовано, то оно верно (с оговорками, важность которых невелика, хоть и преувеличивается неосведомлёнными и предвзятыми критиками) и ценно, поскольку сообщает нам, что теорема истинна, ради чего доказательство и существует.
Возвращаясь к странному аргументу, что теоремы не важны, а важен лишь путь к ним: математики могут позволить себе роскошь выдвигать такие некрасивые требования — дайте нам играть в наши игры и оплачивайте нам аспирантов, и не вздумайте повышать нашу научную производительность — только потому, что чистая математика в основном бесполезна. Представьте, что такое потребуют физики, работающие над термоядерным синтезом, или биологи, работающие над полезными для медицины исследованиями (некоторые и требуют, кстати); сразу станет ясно, что это некрасиво и что общество не может такого позволить.
Но это же, кстати, одна из причин, по которой я не очень беспокоюсь за вопрос, кому будут нужны математики, когда ИИ станет лучше нас в нашей работе: общество и так знает, что чистые математики в основном не нужны, потому что чистая математика в основном не нужна. И всё равно продолжает нас кормить (спасибо).
Видимо, какая-то польза от математиков, носящих в своих головах понимание, всё-таки есть. Мне кажется, что настоящая повседневная практическая польза от нас, чистых математиков (как и от учёных-естественников, занимающихся сугубо фундаментальными исследованиями), состоит в создании в научных и учебных заведениях и вообще в обществе такой атмосферы интереса к научным знаниям, которую больше ничто обеспечить не может и которая делает заметно интереснее работу тех, кому наука нужна для действительно практически полезных дел.
В общем, со смыслом работы у меня всё в порядке, и я предвкушаю новые знания. Мы должны знать — мы будем знать.
Я хочу более подробно поговорить про ИИ в чистой математике, оставив в стороне другие аспекты. В июне я опубликовал статью в N+1 на эту тему, и уже тогда её приходилось дописывать буквально каждый день перед выпуском. Рабочее название статьи было «Вы находитесь здесь»: как бы есть список вех, достижимость которых последовательно отрицается скептиками, но которые, тем не менее, последовательно достигаются и будут достигаться дальше. Как и в случае исходного мема, с момента этого наблюдения прошло ещё несколько вех. ИИ решает всё больше открытых математических задач, и эти результаты всё интереснее.
Как математика, меня это радует. Мне интересно знать математические истины. Мне также приятно самостоятельно разбираться в математике.
Многие математики реагируют на такое развитие событий резко отрицательно и даже настаивают, чтобы никто другой тоже не использовал ИИ для решения открытых математических задач в полную силу (вот особенно яркий пример). Мне это не нравится. Перечислю свои разногласия с критиками.
Критики ИИ-математики регулярно ругают ИИ-результаты как слишком сильно полагающиеся на предшествующие работы или, наоборот, никому не интересные. Такую критику я принимаю на свой счёт: математика есть математика, и если, скажем, результат о единичных расстояниях недостаточно хорош или даже решение задачи тысячелетия недостаточно хорошо, то по такой логике все мои собственные результаты вообще не имеют шансов заслужить доброго слова. Ну спасибо!
Ещё говорят, что решение какой-нибудь известной задачи само по себе не имеет ценности, а важны «друзья, которых мы обрели по пути», то есть развитые для решения задачи методы. Здесь, во-первых, я не согласен с первой посылкой. Как я говорил, мне важны математические факты; методы интересны лишь постольку, поскольку они позволяют эти факты открывать. Говорить, что решение задачи не имеет ценности, это снова обесценивать саму математику.
Во-вторых, я не согласен с тем, что стоит расстраиваться из-за того, что не были развиты какие-то методы для решения задачи. Тао приводил в пример последовательное снижение бесконечно много раз встречающегося расстояния между соседними простыми: для каждого снижения кто-то разрабатывал новый метод, а вот если бы откуда-то сразу появилось доказательство бесконечности простых-близнецов, то ничего этого не было бы. На мой взгляд, считать, что решение задачи тут что-то портит — нелогично. Если метод имеет ценность, даже если полученный с его помощью результат впоследствии был усилен другим методом, то над этим методом следует работать, даже если задача уже была решена раньше; а если не имеет, то нечего и переживать, что эти методы не будут разработаны.
(Не говоря уж о том, что скоро ИИ спокойно будет и новые методы развивать, и теории строить.)
На это критики возразят мне, что нет никакого стимула работать над методом для решения уже решённой задачи, ведь статьи об этом не будут публиковать, а если и будут, то такие результаты не позволят получить хорошую работу. А я на это спрошу: а как так получилось? Кто же это решает, какие статьи публиковать? Кто консультирует грантодателей, на что давать денег? Кто выбирает, кого нанять на открывшуюся позицию? Вы и решаете-с! Мы, математики, сами это решаем. И если вы действительно считаете, что и после полного решения задачи разные развитые для неё методы имеют ценность, то пишите положительные рецензии на статьи с новыми интересными методами для решения уже решённых задач и нанимайте их авторов в свои научные группы, только и всего. А не предлагайте перестать доказывать теоремы быстрее. (Соответственно, критику Делиня Гротендиком я тоже не принимаю.)
Конечно, играют роль не только приземлённые материи типа публикаций и карьеры, но и внутренняя мотивация. Математики-критики говорят, что не хотят решать задачу, которую кто-то уже решил, и не хотят разбираться в решениях, которые нашёл ИИ. Это отчасти справедливо. Тут действительно что-то потеряно для нас. Но масштаб этой потери, на мой взгляд, преувеличен. Я не особенно стремлюсь быть первооткрывателем, мне нравится сам процесс исследования математической задачи или теории. Возможно, я в этом отношении выделяюсь. Но мне кажется, что большинство математиков, которые выдвигают такой аргумент, переоценивают своё первопроходство и его важность. Мы ведь все полюбили математику ещё за долгие годы до того, как смогли открыть что-то действительно новое. Мы читали и продолжаем читать огромное количество чужой математики; мы постоянно исследуем примеры, чтобы лучше понять ту или иную концепцию, и это само по себе приятно и интересно, несмотря на то что до нас ровно те же примеры разбирали другие люди. Моменты прохода по целине и так очень редки, и если бы больше ничего нас в математической работе не радовало, едва ли бы мы ей занимались.
Возможно, я всё-таки в большей степени платонист. Мы исследуем мир математических идей как новооткрытый континент, как Америку. Мне не так важно, кто первый нашёл озеро в кратере Килотоа, мне просто приятно его видеть. Если вместо самого озера кто-то хочет рассмотреть тропинки, ведущие к нему, это тоже можно сделать, даже если мы теперь можем доехать до кратера на джипе. При этом вся суша на Земле уже кем-то исследована, и ничего, живём.
На мой взгляд, эссе Конец эпохи героев хорошо отделяет те радости труда математиков, которые никуда не денутся от пришествия ИИ, от тех, которые действительно уйдут. Автор — Ноа Смит — не математик и вообще не всегда прав, но это эссе, по-моему, бьёт в самую точку.
Осталось ещё упомянуть, что некоторые критики считают не имеющим ценности доказательство, которое написано, но не понято людьми. На это у меня два возражения. Первое — такое же, как и про методы: если понимание доказательства — ценный труд, то в наших силах поощрять математиков, которые этим занимаются. А я, кстати, согласен, что это ценный труд; более того, пожалуй, это суть самой работы математика, тот странный продукт, который мы производим большую часть своего рабочего времени: понимание старых (придуманных кем-то ещё) и новых (только что открытых нами) математических фактов, теорий и рассуждений.
Второе моё возражение в том, что выражение «математическое доказательство — это текст, который убеждает читателя в истинности теоремы» (которое в этом контексте обосновывает, что доказательству нужен читатель) — пижонское и, что хуже, неверное. Правильное математическое доказательство — это в первую очередь логическая последовательность рассуждений. И мне задолго до ИИ было ясно, что формализация (в идеале) улавливает самую суть доказательства. Соответственно, если доказательство автоформализовано, то оно верно (с оговорками, важность которых невелика, хоть и преувеличивается неосведомлёнными и предвзятыми критиками) и ценно, поскольку сообщает нам, что теорема истинна, ради чего доказательство и существует.
Возвращаясь к странному аргументу, что теоремы не важны, а важен лишь путь к ним: математики могут позволить себе роскошь выдвигать такие некрасивые требования — дайте нам играть в наши игры и оплачивайте нам аспирантов, и не вздумайте повышать нашу научную производительность — только потому, что чистая математика в основном бесполезна. Представьте, что такое потребуют физики, работающие над термоядерным синтезом, или биологи, работающие над полезными для медицины исследованиями (некоторые и требуют, кстати); сразу станет ясно, что это некрасиво и что общество не может такого позволить.
Но это же, кстати, одна из причин, по которой я не очень беспокоюсь за вопрос, кому будут нужны математики, когда ИИ станет лучше нас в нашей работе: общество и так знает, что чистые математики в основном не нужны, потому что чистая математика в основном не нужна. И всё равно продолжает нас кормить (спасибо).
Видимо, какая-то польза от математиков, носящих в своих головах понимание, всё-таки есть. Мне кажется, что настоящая повседневная практическая польза от нас, чистых математиков (как и от учёных-естественников, занимающихся сугубо фундаментальными исследованиями), состоит в создании в научных и учебных заведениях и вообще в обществе такой атмосферы интереса к научным знаниям, которую больше ничто обеспечить не может и которая делает заметно интереснее работу тех, кому наука нужна для действительно практически полезных дел.
В общем, со смыслом работы у меня всё в порядке, и я предвкушаю новые знания. Мы должны знать — мы будем знать.
![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif){kind=small}
