Datasets:

bond005

/

podlodka_speech

like 0

Всем, привет, друзья! С вами подкаст «Подлодка». Меня зовут Женя Кателла. Со мной сегодня Стас Цыганов. Стас, привет!

Observability и логирование

Вы ещё не опоздали, чтобы сходить на нашу первую в этом году конференцию. Первая и сразу же новая: «Podlodka Go Crew». Раньше мы такого не делали. Конференция для Go-разработчиков или тех, кто интересуется языком программирования Go. Началась она 6 февраля, то есть у вас, наверное, ещё есть шанс запрыгнуть.

Observability и логирование

И вводить его нужно на сайте podlodka.io/gocrew, вот. И позвали поговорить про observability мы Михаила Дружинина. Михаил — Engineering Manager в компании «Datadog». Управляет разработкой всех клиентских библиотек на восьми языках разработки для application performance мониторинга и distributed трейсинга.

Observability и логирование

Это очень хороший вопрос, вот. Ну, вы правы, потому что 500 часов на разборах падений, вот. Я достаточно долгое время работал в AWS. AWS — очень хорошая практика именно того, как мы смотрим на операции, различные системы. Что мы делаем, когда они падают. Что мы делаем, когда они не падают. Что мы делаем, чтобы они не падали (вот, идеально, вообще). Очень хорошо, когда они не падают. И сейчас я занимаюсь как раз application performance мониторингом в компании «Datadog», то есть.

Observability и логирование

Я точно знаю, у нас сейчас есть клиенты, которые даже, там, на warning statement-ы в наших логах реагируют, такие: «О, вы начали тут warning писать. А у нас наши системы реагируют на то, что warning-и, которые мы не знаем, появляются в логах. Нам это мешает. Можете убрать?»

Observability и логирование

Потому что по айдишнику клиента уже можно было как-то вот эту пачку транзакций связать из разных микросервисов.

Observability и логирование

Когда у тебя система либо становится распределённой, либо асинхронной внутри, что, по большому счёту, для целей нашего разговора практически одно и то же, у тебя вот эта последовательность выполнения — она теряется. То есть, грубо говоря, тебе пришёл какой-то запрос, ты можешь его положить в очередь для клиента, и потом что-то сделать.

Observability и логирование

Последовательность потерялась, и тот же самый клиент может, я не знаю, там, три раза нажать кнопочку какую-то. Или у тебя в приложении сделано так, что он может быть несколько заказов, там, запросов, ещё чего-то послать.

Observability и логирование

И ты такой: «А!». Тебе приходится делать какие-то телодвижения руками потом, если у тебя этой связки нет, чтобы вытащить информацию.

Observability и логирование

Слушай, я вот сейчас в голове крутил кейсы, и понял, что один у меня совершенно точно хорошо уложился. Это кейс, когда, ну, не знаю, просто представим, там, клиент сделал какой-нибудь запрос (неважно, что это за клиент). Он пришёл на какой-нибудь один сервис, дальше из этого сервиса куда-то дальше, и за счёт вот этих айдишников мы можем потом протрассировать, что вообще происходило. Всё это собрать, грубо говоря, в один какой-то последовательный понятный лог. А вот если у нас система, ну, не знаю, с каким-нибудь, не знаю, балансером, который тупо просто обычным раунд робином тебе один запрос кидает на одну ноду, другой — на другую, третий — на третью. И всё это — инстансы одного и того же сервиса, просто их несколько. В этом случае какие-то проблемы, сложности есть?

Observability и логирование

На примере, может быть, для тех, кто ни разу с этим не сталкивался. А я, там, не знаю, как мобильный разработчик, например, последние сколько-то лет сижу и думаю: «Ну, у меня логи, там, ну куда-нибудь в Centric могут отправиться». Обычно я вижу, что у меня в какой-нибудь Google Play прилетели краши, и я просто по названию exception-а захожу туда, где мне нужно найти логи, Ctrl+C, Ctrl+V, «найти», нахожу конкретные логи, всё. Типа, конец. Больше мне делать ничего не нужно.

Observability и логирование

Что-то происходит не так в очень редком количестве случаев, и это вот самое неприятное. То есть, у тебя там в 99% случаев всё работает нормально, но вот при таких входных данных система, там, встаёт в ступор, выполняет это в 10 раз дольше, и так далее, и тому подобное. И ты такой: «Хм, как поймать?»

Observability и логирование

А можно задать тебе вопрос? Да, конечно. Что тебе нравится больше, чем спать спокойно по ночам, зная, что твой сон охраняет observability нашего биллинга «Podlodka Crew», построенное на Телеграме?

Observability и логирование

Мы, в принципе, можем закончить. Не забывайте скидывать брёвна за борт! Записывайте свои брёвнышки регулярно и следите за их частотой. Дама с поленом из «Твин Пикса» не одобряет выкидывание полен за борт.

Observability и логирование

Роман, Роман Бусыгин. Небольшая такая биографическая справочка: то, что Рома в Яндексе с 2007 года и вначале, изначально занимался нагрузочным тестированием.

Антипаттерны в промышленной разработке

Не, я делал карты. Потом я ушёл делать Яндекс-поиск, потом этот Яндекс-поиск стал Яндекс-браузером. Там я руководил группой.

Антипаттерны в промышленной разработке

Но этому было посвящено первые 10 минут, поэтому я сразу подумал, а что будет ещё 50? И идея всего доклада, что человек (или спикер) рассказывает про разные кейсы, какой паттерн можно было бы юзать для каждого, и почему нет. То есть, там будет целая табличка с тем, какие профиты и какие минусы для каждого кейса. Я помню, был прекрасный доклад на «Медиуме» для, ну, не то что новичков, а даже для средних разработчиков, где человек быстро прошёлся по всем архитектурам.

Антипаттерны в промышленной разработке

Хардкорный доклад самый. Человек занимается криптографией на Swift-е, поэтому, там, можно ожидать многих интересных фичей, технических деталей. Но по-прежнему из-за того, что два дня и три треда, всегда можно будет найти, что посмотреть на том же русском языке, если у нас будут такие гости.

Антипаттерны в промышленной разработке

Большой объём знаний, который даётся в интересной форме, и из-за этого метода преподношения он воспринимается лучше.

Антипаттерны в промышленной разработке

Они просто про разработку и про то, как он решает задачи. В основном там Ruby, Python, чуть-чуть Shell-а, однако те подходы, которые он использует, можно перевести и на свою повседневную жизнь. И также на destroyallsoft.com есть раздел с выступлениями Гарри. Там есть очень полезный доклад, который я всем рекомендую. Он называется «Boundaries».

Антипаттерны в промышленной разработке

Ничего страшного не произойдёт. Я так понимаю, мы, наверное, скорее всего, один только совет дадим. Ставим opcode, и, в общем, смотрим, что opcode указал серым — удаляем это всё.

Антипаттерны в промышленной разработке

Где важны будут классы. Насколько я вообще Java понимаю, там ты без классов никуда не двинешься. И там, ну, как бы, хочешь не хочешь, у тебя будут классы. Это первое. А второе, я считаю, что если этого требует архитектура, то пусть это будет класс. Например, это фабрика или какой-то билдер.

Антипаттерны в промышленной разработке

Но не все индустрии в одинаковом состоянии. Они прошли немножко разный путь. У меня такой вопрос: перед тем, как мы начнём набрасывать и в общем, закапывать одну индустрию за другой, выявлять дисфункции и так далее, у меня есть предложение как-то договориться на тему того, а что мы называем качественным менеджментом? Как понять, что один менеджмент качественный, а другой нет?

Дисфункции организаций

Для этого нам нужно будет рассмотреть некое такое понятие и, кстати, если я скажу, что я сам его придумал, наверное, я себе польщу. Потому что, когда я готовился к выпуску, все мысли, которые я, казалось бы, придумал сам, я нашёл их подтверждение, упоминание в куче источников. Оказывается, это не я такой умный. Видимо, на меня просто вселенский разум, ноосфера так действует, что я просто впитываю мысли чужих людей. Ну ты выхватил то, что… Ну логично, да, логично. И вот то, с чего стоило бы начать, такое есть понятие в ТРИЗе, в теории решения изобретательских задач. Называется оно «идеальная система».

Дисфункции организаций

Потерь. Потерь. Ну каких-то потерь, но это не очень… Может быть, и никак не стоит переводить. Может быть, стоит учить английский. Дело в том, что какое бы слово мы ни придумали, оно не на 100% передаёт, как бы, этимологию слова waste. Японцы их в своей lint-системе выделяют восемь… семь штук изначально, сейчас восемь. Есть замечательные статьи, как соответствуют IT-практики и те waste, которые вот на «Тойоте» ещё были придуманы.

Дисфункции организаций

Что вы должны между ними diff смотреть. И, вот есть тоже такая важная штука, тоже надо понять, смотрите: эффект от внедрения решения наступает не тогда, когда вы его внедрили.

Дисфункции организаций

Но не на всё в моей голове оно ложится. Вот ты упомянул one-on-one. Допустим, их в команде, в компании, не было. Пришёл менеджер. Ему рассказали про эмпатию, про дачу обратной связи, и он ввёл one-on-one. От чего мы отказались в данном случае?

Дисфункции организаций

Ну смотри. Как и любая… любой item, который ты привносишь в нашу идеальную систему, вообще-то он у тебя съедает, ну, рабочее время как минимум. То есть, твой программист, вместо того, чтобы 8 часов подряд нажимать на кнопки, он вместо этого ходит на one-on-one-ы. И эти one-on-one-ы, в зависимости от того, как именно они организованы… А если ты погуглишь, то всегда можно написать… погуглить такие вещи, как «10 удачных примеров one-on-one-ов», или «20 ошибок one-on-one-ов», или «почему one-on-one-ы — это плохо». А я очень люблю гуглить, вот, в разных вариациях. Я люблю, там, one-on… «one-on-one is dead», например, так можно погуглить, «почему они мертвы».

Дисфункции организаций

Убрали весь формализм, всю регулярность, а это essence. Мы до этого обсуждали, что такое one-on-one, и эти три признака выбыли как характеризующие. Мы убираем регулярность, мы убираем формализм: ну, вы можете в произвольной форме пообщаться. Всё, и это больше не one-on-one! Вы просто пообщались.

Дисфункции организаций

Он как раз говорил примерно следующее: «К сожалению, мы не всё можем измерить, но проблема в том, что мы вынуждены управлять тем, чего измерить не можем».

Дисфункции организаций

Они были очень продвинутые в плане управленческих компетенций. Там были лучшие из лучших мировые менеджеры. У них были все возможные метрики и все возможные ресурсы (вычислительные и прочие) для того, чтобы строить свою стратегию на этих метриках. И все эти компании просрали все полимеры.

Дисфункции организаций

Если твоя ситуация зашла в проблемную область или в тупик, это автоматически означает, что твоих интеллектуальных усилий недостаточно для того, чтобы она туда не зашла. Сейчас попытаюсь другую аналогию привести. Есть такая фраза в программировании: «Отладка программы требует в два раза или в три раза больше интеллектуальных усилий, чем написание кода». Поэтому если код ты написал на максимуме своих интеллектуальных возможностей, отладить эту программу ты уже не сможешь.

Дисфункции организаций

Я бы хотела воспользоваться паузой и предложить… Понятно, что мы не успеем поговорить о всём, о чём можно говорить. И это было бы странно, если бы всё можно было обсудить два часа, то было бы непонятно, почему индустрия не в упадке, а где-то в другом месте. В общем, мы, можно сказать, закопали метрики, грубо говоря. Но, Олег, я в твоём тезисе слышала ещё такую фразу, что цели… И цели тоже переоценены. И вот если можно метрики приравнять, там, к KPI (они где-то рядом), то OKR-ы, да, как ты говорил, они призваны решить как раз проблемы, какие-то недостатки, синхронизировать, объединить, и вот сфокусировать на более важном.

Дисфункции организаций

На двух маленьких снимках видно сразу 8 поверхностей контактных зубов (то есть без корней, только коронки), на которых видно скрытый кариес в самом-самом его начале, который ты раньше… ты по-другому его никак не увидишь, вот. Это делает врач-гигиенист. И если вот он так делает, видит этот маленький кариес, и он может сказать врачу-терапевту о том, что, слушай (ну и пациенту), что давайте вот эту маленькую дырочку вылечим, и всё будет хорошо, чтобы не ждать, пока что, ну, разовьётся воспаление нерва, там, боль, и вы будете бегать в поисках стоматолога, который вам вылечит.

Зубы

Что если зуб в результате развития кариеса разрушен до 40%, то его возможно восстановить пломбой, то есть композитным материалом, реставрацией. Ну это пластмасса, по существу.

Зубы

Установка куплена для врача. А врач поймёт, врач поймёт, что он ездит на «Мерседесе» и приезжает на работу… как бы, всё хорошо, вот. Это всё мелочи, но они формируют. Поэтому питать иллюзию о том, что будет очень крутой врач в очень дешёвом месте, ну, как бы, очень маловероятно. И я когда был молодым специалистом, меня сильно возмущала цена имплантации в Америке. Прям сильно возмущала! Блин, то же самое, в четыре раза дороже, не может быть!

Зубы

А если эти зубы в зоне улыбки, то сразу ставят коронку. В один день, сразу. Это занимает, ну, обычно час. Спланированная манипуляция занимает обычно час.

Зубы

Но тогда у тебя левый винир или… или останется целым зубом, а правый будет немножечко уже.

Зубы

И всем привет, дорогие слушатели! Мы давно не произносим номера выпусков, но сегодня можно! С вами двухсотый выпуск подкаста «Подлодка». Это невероятно! Если бы мы владели хорошо навыком, в общем, продакшна, мы бы вставили какие-нибудь фанфары. А может быть, мы вставим, не знаю. В общем, вы уже поняли, что вместе со мной сегодня юбилей празднует Егор. Егор, привет!

Как учить языки программирования

И получаем очень много вот таких… широты знаний. И мне кажется, что все остальные причины, которые тут можно привести, они уже вытекают отсюда. Ну, во-первых, когда мы смотрим на языки программирования, мы всегда видим, что они очень тесно между собой связаны.

Как учить языки программирования

Но Егор, конечно, прав, что при обучении студентов нехватка проблем в их жизни, которые бы нужно было решать с помощью языков программирования, она, безусловно, сказывается. Это всегда так. Это вот, когда, например, какие-нибудь Haskell-евские монады начинают объяснять JavaScript-ерам (а там на Хабре миллион статей на эту тему), мы на самом деле сталкиваемся ровно с тем же.

Как учить языки программирования

Всё зависит от вашего свободного времени. Я, конечно, очень люблю смотреть и в компилятор, и в детали реализации, и в то, как устроена работа с памятью. Мне это безумно интересно! Но, конечно, это довольно сложно. То есть, тут вот ограничить себя внешней стороной… Тут же смотрите, язык программирования — это вот такая замечательная сущность, у которой миллион уровней, миллион граней. И мы на эти грани можем смотреть по-разному, с разным интересом. И чем больше у нас времени, чем больше мы готовы углубиться, тем больше всего прекрасного там открывается. Для программистов язык программирования поворачивается только одной из своих сторон.

Как учить языки программирования

Я их изучал по книжке, и никакого компьютера у меня тогда не было. Я пошёл в библиотеку. Мне очень это всё было интересно, я пошёл в библиотеку, взял книжку, в которой было что-то про Fortran и что-то про Pascal. Ну это было году, наверное, в девяносто четвёртом. Никакого компьютера не было. Жили мы тогда очень бедно, и никакой возможности купить компьютер не было. И я писал программы на бумажке, исполнял их в голове. И вот пару лет (ну, может быть, год) я так вот и изучал программирование.

Как учить языки программирования

Мне кажется, что это недооценённые языки. Мне кажется, что язык, создаваемый именно для обучения, действительно позволяет научить лучше. К сожалению, не всегда принимаются решения, как сделать лучше. Зачастую принимаются решения иначе: вот, что более популярно. Как бы, начинаем учить пятиклассника и думаем о вакансиях на рынке труда.

Как учить языки программирования

То есть, вот, нужно доверять учителю с опытом. И тут вот это самое главное: не мешать ему работать. То есть, да, вот рекомендация: вы решите, что, кого вы будете рекомендовать, и потом уже на этот вопрос отвечайте.

Как учить языки программирования

Я думаю, правильно здесь относиться к спорту (не только к бегу), как к тому, что не то что нас ломает, а то что ускоряет процесс выявления слабых мест нашего тела. В этом плане, кстати, спорт хорош. Так это у нас может проявиться в любое время в нашей жизни, к старости, а тут… Это нагрузочное тестирование. Ну, такое, своего рода, хе-хе, нагрузочное… Но нет, конечно, я не советую такие нагрузочные тестирования проводить. Это не совсем… Человек — не машина здесь, чтобы на нём такие… Но, своего рода, чекапы — это как нагрузочное тестирование было бы, да. Мне кажется просто, с бегом — опять же, это всё та же история, что это стало суперпопулярно среди всех, там, фитнес-блогеров.

Бег

Ну или даже больше. У меня могло быть три часа нагрузки, три часа бега в сутках. Это уже много! Я там, действительно, мог бургер съесть. Так что, тут тоже… Если вы захотите потом уже профессионально, ещё сильнее упарываться, то, возможно, там уже можно будет и забить на питание, мне кажется.

Бег

Собственно, да, возвращаясь к частоте через букву «а»: насколько часто, вот, начинающим бегунам стоит начинать? Потому что как бывает? Такой: «всё, с нового года, с понедельничка, короче, начинаю новую жизнь! Буду бегать!» И потом начинает хвастаться о том, что: «смотрите, тридцать дней, шестьдесят, девяносто дней тренировок подряд закрываю кольца, прохожу триста тысяч шагов, по 30 километров в день пробегаю», и вот это вот всё начинается. Какая частота должна быть для того, чтобы это было безопасно и полезно?

Бег

Каждый должен подстраивать под себя. Кстати, вот, про разминку мне кажется, это хороший поинт. Ну то есть, мы там до этого обсуждали историю про травмы и так далее. Мне кажется, то, что в принципе история про «сделать какую-то разминку, разогреть мышцы» — это фактор, который позволит те же самые мышцы травмировать, в конечном счёте.

Бег

Вот это — первый сигнал его некомпетентности. Самый правильный способ: если у вас, там, что-либо заболело (вообще, что-либо), это провести диагностику и попробовать вылечить через упражнения.

Бег

Егор мне перед выпуском уже показывал. В гости мы сегодня позвали Даню Пилина, создателя онлайн-школы по шахматам Skyeng, Product Owner-а, и сейчас развивает стартап по лидогенерации.

Шахматы

Настоящее правило взятия на проходе, которое на самом деле многие, кто не играет в шахматы, не знают это правило. Егор, ты знаешь, что такое взятие на проходе?

Шахматы

И получается то, что если ты не учишь, как начинать, соответственно, игру, то ты будешь позади соперников, потому что они как раз это всё знают. И здесь, получается, в некотором смысле, как я понимаю, дебюты — это уже разобранные, в некотором смысле такие усреднённые тактики, которые… Если ты будешь её придерживаться на старте, то ты позволишь себе прийти в середину игры (где уже придётся играть самостоятельно), ты придёшь в каком-то состоянии, в достаточно хорошем, развитом. И соответственно, если ты лучше проведёшь дебют, чем твой соперник, то у тебя будут выше шансы в конечном счёте победить в игре.

Шахматы

И он ещё мелкий был, то есть я быстрее смогу. И он талантливый! На самом деле, я тебе так скажу, там ключевое будет играть — это талант. Там не то, что ты возьмёшь, выучишь, подготовишься, там уже играет составляющая таланта, именно что. Ты действительно обыгрываешь уже, да. Я бы всё-таки тут предложил бы немножко эту идею закопать. Почему? Потому что у меня, опять же, нет статы, но насколько помню, там есть какая-то корреляция, да, достаточно сильная между, условно, возрастом и рейтингом.

Шахматы

Выводы о том, какой следующий шаг надо сделать. AlphaZero как раз, вот если говорить о Stockfish-движке, это появилось года четыре — пять лет назад. И по-моему, там история такая, что за сутки она обучилась, через сутки смогла обыгрывать уже гроссмейстеров.

Шахматы

Это волчанка, да. Но давайте вот про это я не буду. Сегодня я готов больше про раковые клетки просто потому, что про них лучше изучал, да. Я не думаю, что есть принципиальное отличие в производстве.

Производство лекарств

Как они будут в реальности существовать, не существовать? Правильно ли им всё было рассчитано до этого на компьютерах и так далее? И уже если у них получилось собрать необходимый белок, антитело, они передают это в пилотную доклинику, которая называется «in vivo», где производится исследование на лабораторных животных, но ещё в рамках подразделения research and development.

Производство лекарств

Софт, который расчёты ведёт, он очень сильно привязан к железу. Даже если мы просто решим проапгрейдить, там, не знаю, GPU-шки, на которых весь этот расчёт ведётся, если они вдруг, не дай Бог, начнут чуть точнее считать, а не чуть быстрее, ну то есть большую точность давать, весь пайплайн пойдёт, ну, прахом, вот. Мне сказали, материться нельзя, поэтому он пойдёт прахом, и придётся делать перенастройку и опять развлекаться с коэффициентами внутри системы.

Производство лекарств

Ты не можешь сразу, как это, на большом чане… Ну просто дорого будет делать сразу на большом чане культивацию большого количества клеток.

Производство лекарств

Совместно с биологом разрабатывает, обучает нейронку, а потом проверяет, результаты этой нейронки близки к результатам математических аппаратов в тех или иных задачах? Если да, то после этого такую нейронку можно будет попытаться встроить в общий пайплайн по исследованиям. Не надо забывать, что у нас есть, там, чёткий, понимаемый пайплайн уже с математическим аппаратом, когда мы знаем, что такой или иной белок мы сможем проверить, там, через 2-3 дня, и всё будет хорошо. С нейронками есть всегда риск, что она выдаст какую-то хрень, и мы просто потратим время впустую.

Производство лекарств

И вот изначально наша система координат была такова, что вот эти клеточки — они одинакового размера. Но потом выяснилось, что на самом деле мы расстояние воспринимаем так, что чем дальше они от нас, эти горы, тем расстояние на одну клеточку меньше для нас важно, чем вблизи.

Распознавание музыки

Ну, наверное, следующий шаг, коль скоро мы отказались от непосредственно звуковой волны как waveform и начали использовать спектрограммы, давайте возьмём, попробуем их, и будем сравнивать их. И здесь, наверное, чуть больше будет устойчивости сигнала, но по большому счёту это примерно то же самое. То есть, если мы будем сравнивать два фрагмента спектрограмм, то у нас в принципе будут те же самые проблемы, и это тоже не работает.

Распознавание музыки

И бывает такое, что, вот, здесь могут путаться просто потому, что картины вот этих вот пиков найденных (особенно если вот говорить про старые алгоритмы), они могут быть очень похожи. Такое может быть.

Распознавание музыки

Ну просто чтобы какое-то разумное его количество, чтобы можно было его не искать. И для скорости, да. Просто это нужно делать, там, за какие-то, не знаю, сотни миллисекунд, ну там за секунды. То есть сам поиск работает достаточно быстро, и если мы будет вальяжно с каждым треком сравнивать, это… это просто неподъёмно даже на каком-то кластере поисковом. Это невозможно так.

Распознавание музыки

Смотри! Во-первых, мы когда отбирали датасет для обучения, мы валидировали, что вот здесь, скорее всего, плохое совпадение, это надо выкинуть, и брали то, где мы были уверены, что совпадение есть.

Распознавание музыки

Эмпирически, значит, заметили, что если взять, вот, две спектрограммы, которые соответствуют одному и тому же сигналу… Предположим для простоты, что мы их даже ещё выровняли: вот у нас, типа, оригинал 10 секунд, и запрос, который мы записали с микрофона, ровно те же 10 секунд, ну вот просто на микрофон записали. Он на самом деле будет сильно искажён вот этими, там, шумами микрофона. Микрофон ещё имеет свои амплитудно-частотные характеристики, и они тоже как-то там его меняют звук. И тем не менее, было замечено, что вот если построить спектрограммы этих сигналов двух, то можно выделить в них особые такие ключевые точки, и они будут соответствовать ярким всплескам, вот этим пикам, которые мы обсуждали, на спектрограммах.

Распознавание музыки

А это подробности, получается, именно того, как работают форматы музыкальные для, соответственно, звука, или как? Ты имеешь в виду про перекодировку и почему возникают расхождения, или что? Да-да-да. Ну то есть, вот, ты сказал, что даже если мы возьмём, там, не знаю, битрейт поменяем, у нас уже изменится, и у нас побитового сравнения не получится.

Распознавание музыки