Владеть основными методами машинного обучения и уметь интерпретировать результаты построенных моделей — must have для дата-сайентиста. Но чтобы решать нестандартные задачи, важно понимать законы математики и статистики «под капотом». Разбираемся, как именно математика помогает дата-сайентистам и какие разделы нужно знать.

Освойте профессию «Data Scientist»

Со знаниями математики нейронные сети и машинное обучение перестанут быть магией, вы будете понимать, как это работает. С ее помощью можно корректно обработать данные и правильно обучить модель — алгоритм, который находит оптимальное решение задачи.

Математика для Data Science нужна и если вы хотите быть в курсе последних событий в отрасли и читать научные статьи.

Самые важные разделы математики для Data Science — это:

• линейная алгебра;
• теория вероятностей и математическая статистика;
• математический анализ и методы оптимизации;
• временные ряды.

Большой раздел математики, имеющий дело со скалярами, наборами скаляров (векторами), массивами чисел (матрицами) и наборами матриц (тензорами).

Ключевые понятия линейной алгебры. Источник

Почти любая информация может быть представлена с помощью матрицы. Объясним на примере: МРТ-снимок головного мозга — это набор плоских снимков, слоев мозга.

Каждый плоский снимок можно представить как таблицу интенсивности серого цвета, а весь МРТ-снимок — это будет тензор. Затем можно найти спектр матрицы — набор всех собственных чисел векторов.

С помощью спектров можно классифицировать данные на норму и патологию и выявить, например, есть ли у человека заболевание мозга.

Теперь возьмем задачу, связанную с бизнесом, — проанализировать и спрогнозировать прибыль сети магазинов. Отдельный магазин можно описать набором чисел, которые показывают размер прибыли, количество товара, количество рабочих часов в неделе, время открытия и закрытия. Набор этих чисел будет вектором. Для всей сети магазинов набор векторов составит таблицу с числами или матрицу.

Частично линейную алгебру используют в крупных компаниях при разработке рекомендательных систем (например, в YouTube). Знания о матрицах, их свойствах и операциях с ними помогут понять, как устроен механизм работы методов библиотеки NumPy, как считаются важные статистические величины для больших данных.

Станьте дата-сайентистом и решайте амбициозные задачи с помощью нейросетей

Статистические исследования — прообраз науки о данных: они тоже проводились, чтобы найти закономерности.

К примеру, нужно определить, какой из двух рекламных роликов более удачный. Для этого надо запустить рекламу с этими видео и получить результат. Предположим, на первый кликнула 1 тыс. пользователей, на второй — 1,1 тыс. Теория вероятностей и статистика помогают понять, случайность это или закономерность.

С помощью статистических методов можно выявлять корреляцию (зависимость) между переменными, например между днем недели и количеством покупок на маркетплейсе.

Чтобы рассчитать вероятности и проанализировать, какие колебания и связи являются случайными, а какие несут в себе смысл, нужны знания о случайных величинах, их характеристиках и распределении; также нужно уметь проверять статистические гипотезы.

8 причин стать дата-сайентистом в 2023 году

Математический анализ — раздел математики, он включает дифференциальное и интегральное исчисления.

В анализе данных он используется в основном (хотя далеко не только) для оптимизации — подбора наилучших параметров системы для минимизации или максимизации целевой функции. Практически каждый алгоритм машинного обучения нацелен на то, чтобы минимизировать ошибку оценки с учетом различных ограничений. В этом и состоит задача оптимизации.

Например, те, кто занимается транспортной оптимизацией, минимизируют время, затраты на проезд по платным автострадам, топливо, расходы на эксплуатацию транспортных средств.

Диплом механико-математического факультета МГУ точно не обязателен, чтобы стать дата-сайентистом. Джуниору-специалисту достаточно базовых знаний, но вот чтобы расти в профессии, придется углубиться.

Ответ на вопрос: «Как глубоко надо знать математику?» зависит от того, как много вы хотите зарабатывать и какую должность занять. Со специальным образованием начинать будет проще, но в целом проблем освоить специальность нет, главное — относиться к математике осознанно и понимать то, что вы делаете, а не зубрить.

На собеседованиях могут попросить как решить простую математическую задачу, так и предложить алгоритм решения какой-то прикладной рабочей проблемы — от подготовки данных до оценки результатов анализа. Также вас могут попросить пройти компьютерное тестирование на мышление и логику, время на выполнение которого будет ограничено, или же задать несколько устных вопросов.

Вопросы из разных разделов статистики можно посмотреть тут:

Примеры задач:

• Анализ тональности отзывов на один из продуктов (данных не всегда хватает, они могут быть грязными и немногочисленными).
• Написать тематический классификатор поисковых запросов (задача многоклассовой классификации).

Базовую математику для Data Science реально освоить, не имея опыта в этой сфере. На курсе «Математика для Data Science» вы узнаете, как знание математики и статистики работает в решении реальных задач. В курсе много практики, которая не ограничивается решением классических уравнений и абстрактных заданий.

Михайлов А.А., Математический анализ в линейном программировании, NovaInfo 89, с.6-10

В линейном программировании важным вопросом является оптимальное составление планов, правильное распределение ресурсов, оптимальное распределение мощностей на производстве с помощью математического анализа. Важным компонентом в практическом применении математических моделей является многозадачность, которая подразумевает применение в целевой функции еще не созданной.

Взаимодействие всех условий влияющих на компетенцию системы, в математическом прогнозировании, невозможно. Методы модификации в реальных процессах оставаться неизменными не могут. Очень редко коэффициенты переменных считаются постоянными и то, только в линейном и нелинейном программировании.

Если прототип показывает в подробностях реальность, тогда при незначительных изменениях модификаций характеристик, черты которые характерные поведению этому прототипу должны быть неизменны. В дифференциальных уравнениях такие концепции называются «грубые».

Задачи линейного программирования с характеристиками системы постоянной связи не имеют и при изменении значений параметры меняются неравномерно.

В статье рассмотрены разрывы целевой функции, сформированные после изменения характеристик. На примере модификаций авиа- и железнодорожных путей проанализируем доходы и расходы данных отраслей.

Для правильной постановки задачи линейного программирования необходимо проанализировать проблему линейного программирования с помощью переменных x1,x2,…, xn, дающие максимум целевой функции L(x1,x2,…, xn) и удовлетворяющие системе ограничений:

g1 (x1,x2,…, xn )=bi, i=1,2,…,m1

gi (x1,x2,…, xn )≤ b

i=m1+1, m2+2,…,m

где x1,x2,…, xn≥0, bi — константы L(x1,x2,…, xn) и gi x1,x2,…, xn — линейные функции.

Изменение функции происходит непрерывно, при этом изменяются ее целевые характеристики, только в области допустимых значений, в угловых точках ее производная может прерываться. Рассмотрим проблему о влиянии лимитированных характеристик.

Так существуют основные значения характеристик, которые конструктивно меняют рациональное решение, при этом происходит неравномерное модификация максимума целевой функции.

Такие значения являются не только для линейного программирования, а также могут отображать физические и финансовые ограничения с подходом математического анализа.

• Для определения основных параметров в задачах линейного программирования, необходимо установить функцию:
• L=c1x1+ c2x2,
• где c1,c2 — маржинальная прибыль с издержками на изготовление и перевозку единиц продукции x1,x2 соответственно [5].
• Система уравнений и ограничений выглядит:
• x1- x3-x5=0 x2- x4-x6=0 x3+ x4=b/2 x5+ x6=b/2
• P1 x1- P1 x3-P2 x5≤0
• P2 x2- P1 x4-P2 x6≤0

x1,x2,…, x6≥0

1. Здесь P1,P2,R1,R2,b — упорядоченные параметры задачи
2. b1 < b2, P1 < P2, R1 < R2,
3. Целевая функция в максимальном значении L=max⁡(L)
4. Зависит от характеристик системы:

График №1

Так как оптимальные значения L=L(c1,c2) постоянны, вогнуты или кусочно-постоянны. Учитывая данные ограничения математического анализа, решение основывается на анализе взаимосвязи L=L(R2) от параметров с фиксированным значением R1=P1 функция L=L(R2) R2=P2 при значениях R2=P1 и R2=P2 имеет прерывание 1-го рода.

Значение таких характеристик в системе при небольшой трансформации может привести к разрыву 1-го рода целевой функции. К стандартным изменениям параметров приводят значения параметров системы линейного программирования при непостоянном изменении максимума целевой функции.

Концепция системы становится «не грубой», что приводит к необходимости к вспомогательному исследованию корректности прогнозирования [4].

На двух моделях рассмотрим финансовые проблемы.

Цель увеличить доход с авиационных и железнодорожных перевозок пассажиров, выявить число пассажиров в этих транспортах и решить эффективность одного из них для выбранного региона. Так на самолет стоимость билетов будет P1, а жд билеты будут P2.

При этом категории пассажиров делятся на 2 — A1 и A2, стоимость поездки R1 и R2. Команда содержит число пассажиров b/2. Сумма дохода авиа с одного пассажира — C1, жд перевозки — C2.

Число пассажиров в самолете — X1 из группы A1- x3, из группыA2-x5, пассажиров в поезде, в том числе из группы A1- x4, из .

При низком платежеспособном спросе будет R2 < P1, отсутствием пассажиров на представленных видах транспорта; при R2 P1, выгоден авиа транспорт, при R2 P2 применяются оба вида; R2 > (2P2- R1) — только высокоскоростные железнодорожные поезда.

При платежеспособном спросе A2 такой, на практике R2 > (2P2- R1) оказывается действенным скоростной жд транспорт, так же пассажиры эконом-класса имеют минимальные ограничения также как и пассажиры бизнес-класса.

График №2

Рассмотрев модификации можно заключить:

• улучшать скоростной транспорт только при реальном спросе;
• правильно определить финансовую эффективность при моделировании .

Целевая функция L=L(R2) при параметрах R1=P1 и R2=P2 имеет разрыв. Свойство грубости утрачивается при незначительном изменении свойства материалов. Собственные действия математическая модель быстро изменяет тогда, как на физическом уровне действия изменяться не могут.

График №3

Численный поиск ключевых значений: отбор значений характеристик в системе реальных моделей линейного программирования, представляемые многими уравнениями, являются затруднительными.

Кроме этого трудности заключаются в том, что решение в системах линейного выполняется при точных параметрах.

Но негрубые модели дают возможность проводить численную диагностику с вычислениями возле ограничений благодаря тому, что она способна меняться не только в одной точке, но и возле нее.

Этот случай описываемый системой линейного программирования показывает главные правила верного заключения задачи согласно его характеристикам. Рассмотрен основные значения характеристик, когда происходит скачок перемен функции и когда необходимо провести тест на адекватность модели, нацелив внимание на правильное моделирование основных характеристик.

Ответы Mail.ru: Откуда взялась легенда про матан в программировании?

Рыба-катала Мыслитель (6365) 7 лет назад

Используемая в программировании логика — это именно что математическая логика. Математика вообще одним матаном и алгеброй не ограничивается. Базы данных, с которыми вы работаете, основываются на математической реляционной модели данных.

Да и в целом, программирование основывается на информатике, а информатика в свою очередь основывается на математике. Не зная математики (конкретно тех разделов, которые используются в информатике), вы в основном выступаете в качестве потребителя готовых технологий. Зная математику, вы получаете возможность работать над куда более «вкусными» и высокооплачиваемыми вещами.

Это одна из вещей, которая отделяет просто ремесленника от высококлассного специалиста.

RumataПросветленный (36731) 7 лет назад

Согласен, но понятие «вкусные» крайне относительно, писать компилятор как по мне гораздо более скучная задача, чем писать нечто на высоких языках, но в таком ключе практически любой высокоуровневый язык становится потребительским.

Sambar Мастер (1687) 7 лет назад Ну как бы программист должен разрабатывать алгоритмы, а в каком языке их реализовывать это уже дело десятое. Алгоритмы это в чистом виде математика. Вы же сами говорите, все игры на матане, без него никуда…Вас же тоже учили в свое время на листочке в клеточку программы писать, по блок схемам, или Вам повезло, сразу за комп сели? ))))

Вы же видите какие тут вопросы, объем параллелепипеда народ не может посчитать, вот как их учат? )))

RumataПросветленный (36731) 7 лет назад

Почему алгоритм это математика, я щас пишу свою мелкую IDE на шарпе, ну аля транслятор/интерпретатор и обхожусь без матана, достаточно логики.

Алгоритм не содержит матан, это по большей части логика и большую часть программы составляет как раз обычна логика и последовательность, а не матан.

Игры очень узкое направление, людям при поступлении говорят — матан все, это все вообще для прогера, ну вот для прогера занимающегося БД, он особо не нужен ._.

RumataПросветленный (36731) 7 лет назад Я писал алгоритмы, и транслировал и до сих пор иногда транслирую на бумаге.Но опять же, там не надо особо считать, большинство циклов это +1 и -1, это не матан.

В программинге в принципе не нужно считать, нужно знать ход решения, а для этого достаточно пары больших томов по алгоритмам.

Pure function Просветленный (33495) 7 лет назад Напускают важности, матан им нужен, ага, сами на работе CRUDы шлёпают к вэбне, да кнопочки с чекбоксами в студии тягают мышкой. Есть программирование для которого нужна алгебра логики и прочие утилитарные вещи.А есть задачи решаемые программированием с использованием знаний и премов из реляционной алгебры, тригонометрии, матанализа, нейробиологии, хирургии, бухучета, whatever. Это все уже к непосредственно программированию отношения не имеет никакого а просто специфика предметной области. Если что-то из этого является для программиста в его работе ТИПОВОЙ ЗАДАЧЕЙ, то разумеется нужно знать.

Я хер клал на ваши сортировки с алгоритмами и прочим байтоебством. Даже если бы я знал что такое сортировка пузырьком я бы все забыл давно потому что вся эта параша в моей работе не нужна от слова совсем. Когда понадобится — изучу. И так применительно ко всему. Мозг у нас один и он нерезиновый, посему негоже его засорять академической шелухой.

RumataПросветленный (36731) 7 лет назад Пузырек не оптимальный :ЗА вообще считая уровень развития большинства современных языков, многие функции для которых это раньше было важно, сейчас становятся не более чем базовой командой, что и хорошо и плохо одновременно.

Но я об этом и говорю, большинство матана нужно в узких предметных областях, для многочисленных и тяжелых расчетов, но говорят мол алгебра основной предмет для прогера.

ivtst1 Просветленный (30477) 7 лет назад

Это сильно зависит от специфики задач. Если программист работает с БД, там математика и не требуется. А если какая-то физическая симуляция, системы распознавания, работа с изображениями, там математика понадобится. Знать ее по любому полезно, можно дороже себя продать при прочих равных.

Блоги | Зачем нужен функциональный анализ будущим специалистам по прикладной математике и информатике

Если Вам учиться легко, то Вы либо очень способны, либо Вас ничему не учат.

Татьяна Толстая

Меня недавно попросили написать текст о том, зачем на факультете информационных технологий и программирования Университета ИТМО нужен такой предмет, как функциональный анализ (как говорят студенты, функан), так как этот вопрос возникает не только среди студентов, но даже преподавателей.

Существует и противоположная точка зрения: один наш выдающийся выпускник сказал, что никогда не стеснялся того, что окончил наш вуз, так как в программу, когда он учился, входили такие предметы, как функан и теория функций комплексной переменной.

Другой незаурядный выпускник сказал, что после изучения функана, он лучше понял матан (математический анализ).

Меня в первую очередь удивил сам факт того, что у студентов и преподавателей возникает вопрос необходимости этого предмета в учебной программе. Во-первых, для меня вопрос «зачем нужен функан на КТ» стоит в одном ряду с вопросом «зачем нужна математика в школе». Он кажется нелепым по той причине, что функциональный анализ является одним из базовых математических предметов, что пояснено ниже.

Вопрос студентов удивил меня также и тем, что он задается, несмотря на то, что в наше время у всех есть доступ в Интернет. Если погуглить, то легко найти обсуждение этой темы.

Например, по запросу «Why learn functional analysis» сразу можно выйти на [1], где приведены примеры применения и причины необходимости функционального анализа в учебной программе по прикладной математике. Указанное обсуждение является далеко не единственным в сети на эту тему.

Если же вопрос ставить не только про функциональный анализ, а более общий: зачем вообще нужна чистая математика в учебных программах для обучающихся прикладной математике, то опять по запросу «Why we learn pure math» можно найти обсуждение и этого вопроса, например, в [2].

Правда, для всего этого надо знать английский язык. А тот, кто его не знает или не хочет знать, может затеять дискуссию, зачем в институте учить иностранный язык, и такое можно устроить с любым предметом, который дается весьма непросто, например, с физвоспитанием.

Далее меня удивило то, что студенты в течение многих лет не задавали этот вопрос (у них, по крайней мере, «не поворачивался язык» говорить об этом), и только в последние годы они не стесняются его задавать, причем в такой, например, форме: «Если я собираюсь делать сайты, то зачем мне нужны функан и диффуры?» Возникает вопрос, а туда ли они поступили, и мне кажется, что с такой мотивацией они скоро из вуза исчезнут.

Меня удивило также и то, что люди не задали этот вопрос много лет преподающему функан Николаю Юрьевичу Додонову, который преподает его не только у нас, но и на матмехе СПбГУ, или хотя бы мне, так как многие знают, что я имею отношение к преподаванию математики на кафедре. Мы могли бы объяснить или хотя бы посоветовать посмотреть, например, книгу [3], которая хотя и была издана давно, но приведенные в ней примеры актуальны до сих пор.

Несмотря на это, я все-таки понимаю необходимость написания этого текста. При этом своей задачей ставлю именно сбор разобщенной информации в одном месте. Хорошо, что у меня под рукой есть много источников информации, и я могу просто цитировать людей, которые умнее меня, вместо того, чтобы формулировать какие-то мысли самому. Хотя ближе к концу я добавлю и некоторые свои рассуждения.

На самом деле вопрос необходимости функана куда более глубокий, чем кажется, и уходит корнями в философские вопросы о методах познания. Для начала вспомним, что в Новое время (в XVII веке) появились два основных направления в философии науки — эмпиризм и рационализм, которые во многом противопоставляли себя друг другу [4].

В основе классического рационализма, главные принципы которого были сформулированы Декартом [5], лежит идея возможности логического познания мира. Она берет свое начало еще из «Аналитик» Аристотеля [6].

Эмпиризм, основателем которого принято считать Бэкона [7], напротив, считает возможным только чувственное восприятие мира и ставит единственным критерием истинности эксперимент.

В наше время большинство ученых сходится в том, что ни экспериментальная, ни теоретическая наука не самодостаточны, а дополняют друг друга, и потому они обе необходимы для расширения человеческих знаний. Более подробное рассуждение на эту тему в области эволюционных вычислений можно найти в первой части [8].

Разумеется, стоит признать, что до сих пор даже среди ученых встречаются люди, не признающие чисто теоретические или чисто практические работы (первые встречаются чаще).

В этом я убедился на недавней International Conference on Parallel Problem Solving from Nature (PPSN 2018), где потратил минут десять своего доклада на то, чтобы объяснить одному китайцу необходимость теории в области эволюционных вычислений.

Однако десяти минут было недостаточно, чтобы изменить мнение убежденного эмпирика, так как, повторюсь, данные вопросы являются философскими.

Функциональный анализ, как это следует из его названия, является теоретической наукой, как и многие другие ветви математики, такие как топология, теория чисел, теория игр и другие. Однако, несмотря на то, что они все являются неприкладными по своей сути, каждая из них нашла применение при решении практических задач.

Топология используется в анализе данных (TDA — Topological Data Analysis) [9], теория чисел — в криптографии [10], теория игр — в экономике [11]. Функциональному анализу также было найдено практическое применение. Самым ярким примером является его применение в квантовой механике [12].

Однако сегодня многие студенты нашей кафедры не считают нужным изучать квантовую механику (и, как ни грустно, физику в целом), поэтому более близкий пример для КТ-шников — применение функана для оценки погрешности вычислений численных методов при решении различных задач, в том числе нелинейных, что описано в [3].

Отмечу, что в этой книге содержится много ссылок на другие работы, посвященные практическому применению функционального анализа.

В случае если читателю недостаточно примеров применения функана, отмечу, что он широко используется в теории вероятностей для анализа стохастических процессов [13]. В своей работе я пользуюсь функаном именно в этом контексте.

Например, в моей последней публикации с Бенжамином Доерром [14] знания функционального анализа очень помогли осознавать особенности анализируемого стохастического процесса и получить новые научные результаты, например, разработать оригинальный метод анализа эволюционных алгоритмов.

Приведу еще одну причину, почему стоит изучать функан. Известно, что большинство известных математических результатов было получено просто потому, что математикам это было интересно, а не потому, что они знали про какое-либо их практическое применение заранее, которое, тем не менее, было найдено позже (иногда сразу же, а иногда и через много десятилетий): «ищите и обрящете».

Здесь можно вновь привести примеры топологии, теории чисел и теории игр, так как сначала появились эти ветви математики, а только потом люди нашли им практическое применение. Однако наиболее интересным мне кажется пример Джорджа Буля.

Он одним из первых пришел к идее, что математик должен оперировать символами, представляющими некоторые объекты, а не самими объектами. Буль утверждал, что математика не должна привязываться к чему-то реальному и должна быть абстрактной.

Это привело его к разработке матлогики и булевой алгебры в 1847 году [15].

И хотя Буль очень хотел, чтобы его алгебра была примером чистой, неприкладной математики, все мы знаем, что после развития вычислительной техники работы Буля стали настолько прикладными, что современный мир просто не мог бы без них обойтись.

Продолжатель дела Буля — Клод Элвуд Шеннон окончил MIT по специальности «электротехника и математика». Это позволило ему приложить теорию Буля к релейно-контактным схемам. Однако мне рассказывали о выдающемся математике, который долго расспрашивал, существенно ли, что диод проводит только в одну сторону.

Таким образом, одной математики тоже может быть недостаточно, и именно поэтому в направлении подготовки или специальности нашей «кафедры» и есть слово «прикладная». Но прикладная математика, а еще и информатика.

Последнее слово еще больше усугубляет необходимость изучения математики, так как оно является переводом c английского термина Computer Science — компьютерная наука.

Тот, кто этого не понимает или не хочет понимать и учить, как говорится, свободен … от обучения у нас.

Кстати, если это так, то для познания компьютерной науки очень неплохо начать ей заниматься уже в студенческие годы, так, во-первых, выдающийся российский хирург Н. И. Пирогов говорил: «Отделить учебное от научного нельзя.

Но научное без учебного все-таки светит и греет, а учебное без научного — только блестит», а, во-вторых, без получения хотя бы каких-то научных результатов магистерскую выпускную работу у нас не защитить. И еще.

Не путайте национальный исследовательский университет, куда вы поступили, с профессионально-техническим училищем, курсами или даже институтом повышения квалификации, а также богодельней…

Возвращаясь к функциональному анализу, заметим, что он так же, как и булева алгебра, развивался не столько с целью практического применения, сколько ради расширения математических знаний.

Хоть он и берет свое начало примерно в одно время, что квантовая механика, после получения основных результатов функана в квантовой механике произошел значительный прорыв [12]. Оказалось, что самосопряженные операторы как нельзя лучше подходят для описания изменений в квантовой системе.

Более того, понятие «спектр оператора» оказалось тесно связанным с физическим спектром. Применение функционального анализа для оценки погрешностей было предложено только после того, как вычислительная техника достаточно развилась — с конца 40-х годов XX века.

Если же говорить про применение функана к стохастическим процессам, то оно началось с квантовой механики. Кроме того, с развитием вычислителей появилось множество вероятностных алгоритмов, для анализа которых также были необходимы средства из функционального анализа.

Таким образом, математику и, в частности, функциональный анализ стоит изучать не только ради собственного интереса, но и для практической пользы, которая может быть получена позже, а, может быть, и не получена…

Три выдающихся математика имели результаты и в области функционального анализа. Это им не помешало, а, возможно, помогло, получить выдающиеся практические результаты.

Первый из них — Джон фон Нейман (он считается основоположником современного функционального анализа), создавший структуру ЭВМ, которая повсеместно применялась до последнего времени.

Второй — Норберт Винер (в функане известна теорема Пэли-Винера-Шварца) — создатель кибернетики, а еще известны фильтры Винера, которые совершенствовались сначала Хопфом, а потом — почетным доктором Университета ИТМО Рудольфом Калманом. Третий — Андрей Колмогоров (известна книга Колмогоров А. Н., Фомин С. В.

Элементы теории функций и функционального анализа. МГУ, 2006). Полученные им результаты в разных областях математики нашли многообразные применения в теории информации, теории вероятностей и теории алгоритмов.

И, наконец, даже если вы не хотите иметь ничего общего с квантовой физикой, численными методами и вероятностями, вам все равно целесообразно изучать функциональный анализ. Доктор физ-мат. наук, профессор Юрий Шполянский, выпускник Университета ИТМО 2000 года, сказал, что функциональный анализ был самым сложным предметом из всей учебной программы на кафедре, и что, хотя он сам не применяет его на практике, этот предмет, по мнению Юрия, является очень полезным для мозга.

Я полностью согласен с этими словами: в IT-индустрии, безусловно, много направлений, не требующих от программистов знаний в области функционального анализа, однако как можно добиться существенных успехов в этой области без хорошо развитого математического мышления? Павел Дуров наверняка не знает функана, но зато его брат Николай изучал функан точно, так как учился и защитил в свое время PhD по чистой математике [16]. Именно такая комбинация предпринимательского и математического талантов помогла братьям подняться до нынешних высот.

Если у Вас есть таланты Гейтса или Джобса, то вы, как и они, можете не учить математику, но в их компании на работу вас без знания математики вряд ли возьмут. Кстати, одно из часовых (!) собеседований Ивана Белоногова, когда он поступал на работу в компанию OpenAI [17], было посвящено теории вероятностей и линейной алгебре, и он нормально прошел это испытание, как, впрочем, и все остальные.

Математическое доказательство правильности и эффективности алгоритма

• При разработке совершенно нового алгоритма необходим очень тщательный
  анализ его правильности и эффективности .
• Меньше всего вам хотелось бы, чтобы ваше решение было неадекватным для
  проблемы, для решения которой оно было разработано в первую очередь.
• В этой статье мы поговорим о следующих предметах:

ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ : как вы можете видеть из заголовков
разделов, это никоим образом не предназначено для прямого применения.

Это теория компьютерных наук , предназначенная только для более
глубокого понимания определенных областей практического
программирования.

Математическая индукция

Математическая индукция (МИ) — важный инструмент для доказательства
утверждения, которое доказывает правильность алгоритма. Общая идея MI
состоит в том, чтобы доказать, что утверждение верно для любого
натурального числа n .

Что это на самом деле означает?

Это означает, что нам нужно пройти 3 шага:

1. Гипотеза индукции : определите правило, которое мы хотим
   доказать для каждого n , назовем его F(n)
2. База индукции : доказательство того, что правило действительно
   для начального значения или, скорее, для отправной точки — это часто
   подтверждается путем решения гипотезы индукции F(n) для n=1 или
   любого подходящего начального значения.
3. Индукционный шаг: Доказать , что если мы знаем , что F(n)
   верно, мы можем step на один шаг вперед и предположим , F(n+1)
   правильно

Если вы выполнили эти шаги, теперь у вас есть возможность зацикливаться!
Нет, правда, это дает нам возможность делать что-то вроде этого:

for (i in range(n)):
T[i] = True

Базовый пример

Проблема :

Если мы определим S(n) как сумму первых n натуральных чисел,
например S(3) = 3+2+1 , докажите, что следующая формула может быть
применена к любому n :

$$
S (n) = frac {(n + 1) * n} {2}

$

Проследим наши шаги:

1. Гипотеза индукции : S(n) определяется формулой выше

2. 1. База индукции : на этом этапе мы должны доказать, что S(1) = 1
      :
   2. $$
      S (1) = frac {(1 + 1) * 1} {2} = frac {2} {2} = 1
   3. $

3. Шаг индукции : на этом шаге нам нужно доказать, что если формула
   применима к S(n) , она также применима к S(n+1) следующим
   образом:

   $$ S (n + 1) = frac {(n + 1 + 1) * (n + 1)} {2} = frac
   {(n + 2) * (n + 1)} {2} $$

• Это известно как импликация (a => b), что просто означает, что мы
  должны доказать b условии, что мы знаем, что a правильно.
• $$
  S (n + 1) = S (n) + (n + 1) = frac {(n + 1) * n} {2} + (n + 1) =
  frac {n ^ 2 + n + 2n +2} {2}
• $
• $$
  = frac {n ^ 2 + 3n + 2} {2} = frac {(n + 2) * (n + 1)} {2}
• $

Обратите внимание, что S(n+1) = S(n) + (n+1) просто означает, что мы
рекурсивно вычисляем сумму. Пример с литералами:
S(3) = S(2) + 3= S(1) + 2 + 3 = 1 + 2 + 3 = 6

QED

Доказательство правильности

Поскольку метод, который мы используем для доказательства правильности
алгоритма, основан на математике или, скорее, на функциях , чем
больше решение похоже на реальную математическую функцию, тем проще
доказательство.

Вы спросите, почему это так? Что ж, в практическом императивном
программировании есть такая вещь, которая называется состоянием ,
это означает, что вывод программы зависит от трех вещей:

1. Его последовательность инструкций

2. Его входные значения

3. его состояние , а точнее все ранее инициализированные
   переменные, которые могут каким-либо образом изменить выходное
   значение

Пример состояния программы

def foo(x):
x = y + 1
return x

Если бы я попросил вас дать мне выходное значение этой функции для x=1
, вы, естественно, сказали бы:

Ну, черт возьми, сэр, как бы нам узнать выходное значение, если бы мы
не знали это чертовски y значение.

Видите ли, в этом и суть, эта (императивная) программа, как и любая
другая, имеет состояние , которое определяется списком переменных и
их соответствующими значениями. Только тогда результат этой программы
будет действительно детерминированным .

Детерминированная — система без случайных факторов

Это открывает совершенно новую историю о парадигмах программирования,
которые имеют полностью прозрачное состояние или, другими словами, БЕЗ
ПЕРЕМЕННЫХ . Это может показаться безумием, но оно существует и
используется нечасто, особенно при функциональном программировании на
Haskell .

Но поскольку в императивном программировании в нашем распоряжении
традиционно отсутствуют функциональные концепции, мы выбираем следующий
лучший способ доказательства правильности — рекурсию . Рекурсия
очень проста для математической интерпретации, потому что она
эквивалентна рекуррентным отношениям (подробнее о рекуррентных
отношениях в следующих разделах).

Пример рекурсии

def factorial(n):
if (n==0):
return 1
else:
return n*factorial(n-1)

1. Преобразовано в форму повторения:
2. $$
   Факториал (n) = n * Факториал (n-1)
3. $

Инварианты цикла

Все это звучит хорошо и модно, но до сих пор мы ничего не говорили о
представлении циклов и состояний программы в виде математических формул.
Переменные в состоянии программы создают проблему, потому что все они
должны постоянно контролироваться, на случай, если кто-то выйдет из
строя.

Кроме того, петли создают проблему, потому что им очень мало
математических эквивалентов. Это означает, что мы должны включить
математическую индукцию в нашу модель анализа алгоритмов , потому
что это единственный известный нам метод, который может итеративно
инкриминировать значения в математике, как в реальном коде.

Самый простой способ решения обеих задач (с помощью математической
индукции) — это инварианты цикла :

Инвариант цикла — это логическая формула или просто набор правил,
которые верны до, во время и после рассматриваемого цикла (поэтому он
не зависит от итераций). Крайне важно, чтобы он содержал правила для
всех переменных, которые встречаются в указанном цикле, потому что нам
нужно связать их все с набором значений, которые мы хотим, чтобы
они были.

Выбор инвариантного цикла

Инвариант цикла может быть настолько сложным и простым, насколько вы
хотите. Однако суть в том, что она должна быть построена так, чтобы как
можно точнее походить на рассматриваемую проблему.

• Например, я всегда могу сказать, что следующее является инвариантом
  цикла:
• $$({Икс} > y)operatorname{âhat{}¨}({Икс} < y)operatorname{âhat{}¨}({Икс}==y)$$
• Но, используя тавтологию (логическую формулу, которая всегда верна) в
  качестве инварианта цикла, мы на самом деле ничего не достигаем,
  единственная причина, по которой он технически классифицируется как
  инвариант цикла, заключается в том, что он соответствует всем трем
  требованиям:

1. Формула верна ДО выполнения цикла
2. Формула верна ВО ВРЕМЯ выполнения цикла, включая все шаги между
   ними.
3. Формула верна ПОСЛЕ выполнения цикла

Пример:

Давайте посмотрим на следующий код и определим оптимальный инвариант
цикла:

x = 10
y = 4
z = 0
n = 0
while(n < x): z = z+y n = n+1

Логически этот код просто вычисляет значение x * y и сохраняет его в z,
это означает, что z = x*y . Еще одно условие, которое, как мы знаем,
всегда будет истинным, — это n

Лекция 1 Математическое программирование

Математическое
программирование –
это область математики, разработанная
теории и численные методы, решением
многомерных, экстремальных задач с
ограничениями.

Арифметические
операции выполняет компьютер, т.е. задач
на экстремум функции многих переменных
с ограничениями на область изменения
этих переменных.

Функцию,
экстремальное значение которой необходимо
найти в условиях экономических
возможностей, называют целевой или
показателем эффективности (критерий
оптимальности).

Экономические
возможности формализуются в виде системы
ограничений. Все это составляет
математическую модель. Математическая
модель задачи – это отражение оригиналов
в виде функций, уравнений, неравенств
и др. математических объектов. Модель
задачи математического программирования
включает в себя:

1. совокупность неизвестных величин х=(х1,х2,..,хn), их называют планом задачи.

2. Целевую функцию (показатель эффективности, критерий оптимальности). Целевая функция позволяет выбирать наилучший вариант из множества возможных. Наилучший вариант доставляет целевой функции экстремальное значение Z=Z(x).

3. Условие или систему ограничений, которая накладывается на неизвестные величины. Эти условия следуют из ограниченности ресурсов, которыми располагает общество в любой момент времени, а также из необходимости удовлетворения насущных потребностей из условий производительных и технологических процессов.

Ограниченными
является не только материальные,
финансовые и трудовые ресурсы, таковыми
могут быть возможности технологического,
технического и в целом научного
потенциала, нередко потребности превышают
возможности их удовлетворения.
Совокупность ограничений, записанных
в виде уравнений и неравенств, образует
область
допустимых решений
(область экономических возможностей).

Li(x1…xn)
, {}bi
, где i=1,…,m.

Из
этих экономических или физических
соображений на план задачи или некоторые
его компоненты, как правило, накладывается
условие отрицательности. Так же иногда
на план задачи накладывается условие
целочисленности. План задачи,
удовлетворяющий системе ограничений,
называется допустимым.
Допустимый план, доставляющий функции
цели экстремальное значение, называется
оптимальным.

Из
этих экономических или физических
соображений на план задачи или некоторые
его компоненты, как правило, накладывается
условие отрицательности. Так же иногда
на план задачи накладывается условие
целочисленности. План задачи,
удовлетворяющий системе ограничений,
называется допустимым.
Допустимый план, доставляющий функции
цели экстремальное значение, называется
оптимальным.

хi
=> 0 , Z(x*)=Z*(оптимальный
план)

Классификация методов математического программирования

В
зависимости от особенностей целевой
функции, а также функций, задающей
ограничения, задача математического
программирования делится на ряд типов:

1.
Если целевая функция и функции системы
ограничений, если они линейные относительно
входящих неизвестных xi
,то
такой раздел называется
линейным.
Методы и модели линейного программирования
широко используются при оптимизации
процессов во всех областях народного
хозяйства.

При разработке производственной
программы предприятия, при определении
наилучшего ассортимента выпускаемой
продукции, задачах перспективного,
текущего и оперативного планирования.
Особенно широкое применение методов и
моделей линейного программирования
получили при решении экономии ресурсов
производственно-транспортных и др.
задач.

Начало линейного программирования
положил Канторович.

2.
Если в задаче математического
программирования целевая функция или
одна из функций системы ограничений не
линейна, то такой раздел называется
нелинейным.
Методы нелинейного программирования
используются при расчете экономически-выгодных
партий запуска деталей в производство
при распределении ограниченных ресурсов,
размеров запасов, размещения
производительных сил.

3.
Если на все или некоторые переменные
накладывается условия дискретности,
например, целочисленности, также задачи
рассматриваются в дискретном
программировании. Методами
целочисленного
программирования решаются задачи с
логическими условиями, с разрывной
целевой функцией. Это задачи о контейнерных
перевозках, о маршрутизации, о расширении
производственно-складской структур.

Z(
x)=∑Zj(xj)
– аддитивный
вид

Z(
x)=
П Zj(xj) – мультипликативный

При
таком представлении целевой функции
процесс выработки решений имеет
многошаговый характер, параметры целевой
функции или системы ограничения
изменяются во времени, также задачи
решаются методами динамического
программирования.

Методами
динамического
программирования могут решаться задачи
планирования, управления производства,
поставками и запасами, в условиях
изменения спроса, распределение
ограниченных ресурсов, в частности,
размещение капитальных вложений, замена
оборудования.

В перечисленных моделях
математического программирования
предполагается, что вся информация о
протекаемых процессах заранее известна
и достоверна. Также методы называются
детерминированными.
Или методы обоснования решений в условиях
определенности.

Если
параметры, входящие в функцию цели или
ограничения задачи являются случайными,
недостоверными или если приходится
принимать решения в условиях риска
неполной или недостоверной информации,
то говорят о проблеме стохастической
оптимизации, а раздел называют
стохастическим программированием.
К нему относятся модели и методы выработки
решений в условиях конфликтных ситуаций.
В условиях неполной информации
(экстремальной оценки), либо в условиях
риска.

Позднее
появились другие типы задач, учитывая
специфику целевой функции и систему
ограничений, в связи с чем возникли
параметрическая.

К
математическому программированию
относятся методы экстремальных задач
с бесконечным числом переменных.

Задачи
математического программирования с
одной целевой функцией решается методами
скалярной оптимизации, однако в реальных
задачах зачастую приходится учитывать
несколько целевых функций. Также задачи
относятся к векторной оптимизации.
Задачи многокритериального подхода.