" Если рентгенолог может увидеть на снимке патологию, то это может увидеть и компьютер. В регионах, где сейчас очень слабый медицинский класс, эта технология будет хорошим подспорьем. Пилот же мы постараемся запустить в декабре"
Подробнее на ТАСС:
Клименко: пилотный проект внедрения нейросетей в медицину запланирован на декабрь
Ой ли? Человеческий мозг до сих пор сплошная загадка, он вырабатывался сотни миллионов лет или более, а человеческой науке от силы несколько тысяч. Общеизвестна способность статистики, в частности на базе компьютера, к выявлению различий, но что касается обобщения, абстрактного мышления или распознавания изображения в частности, вот тут все очень сложно. Так что даже самый слабый рентгенолог гораздо лучше самого крутого компьютерного зрения и так будет еще очень долго, возможно потому, что современные компьютеры еще не доросли по мощности, но скорей всего это лишь часть проблемы, о чем было уже упомянуто ранее.
В качестве шутки, не помню где именно я об этом читал, можете воспринимать это как анекдот, но одной группой разработчиков компьютерного зрения на базе нейросети был проведен эксперимент по распознаванию фотографий танков и нейросеть очень быстро научилась отличать фотографии танков от других фотографий, но тут в головы ученых закралось сомнение, уж больно быстро она научилась это делать, в чем же секрет? Пара фотографий со стогами сена на поле внесли ясность, т.к. были опознаны нейросетью, как танки! Оказалось нейросеть определила, что на большинстве фотографий с танками фон составлял лесной массив и поле, а сам танк был ей не распознан, как цель для распознавания.
Можно представить, какие последствия могут ожидать медицину, если врачи начнут принимать решения о лечении пациента на основе таких нейросетей.
Периодически встречаю неполные цитаты в статьях посвященных медицинским нейросетям(НС) из одного крупного руководства(Саймон Хайкин, Нейронные сети: полный курс, 2-е издание, стр. 70), привожу ее полностью, желающие могут почитать больше на books.google.ru
" Независимо от того, как выбирается архитектура сети, знания о предметной области выделяются нейронной сетью в процессе обучения. Эти знания представляются в компактно распределенном виде весов синаптических связей сети." - обычно здесь цитата в указанных статьях заканчивается, но с вашего позволения я продолжу и скоро вы поймете почему - " Такая форма представления знаний позволяет нейронной сети адаптироваться и выполнять обобщение, однако не обеспечивает полноценного описания вычислительного процесса, используемого для принятия решения или формирования выходного сигнала. Это может накладывать серьезные ограничения на использование нейросетевого подхода, особенно в тех областях, где решающим является принцип безопасности, например в области диспетчеризации движения самолетов или в медицинской диагностике..."
Дальше там пойдет речь о том, что нейросети надо отделять от искусственного интеллекта(ИИ) и что для повышения безопасности нужно комбинировать НС и ИИ...
Короче, перевожу цитату на понятный язык - НС после длительного обучения с примерами может дать результат, но не сможет объяснить как его получила, т.е. в применении к медицине, на чем основывается ее диагноз, что возвращает нас к разговору про " танки" . Т.е. как я и говорил, врача НС не заменить!
Краткая справка, для тех кто не знаком с тем, что из себя представляет нейросеть в компьютерном смысле. Большинство лекций для математиков и программистов на Ютуб начинается с красивой картинки с изображением нервной клетки с отростками. На самом деле в компьютерной реализации это всего лишь программа, упрощенно напоминающая алгоритм подбора комбинации к кодовому замку, т.е. она перебирает все " возможные" , а точнее заложенные в неё программистом, комбинации, отсюда вытекает зависимость получения результата от времени и мощности компьютера, а также от того учтены ли в программе тех. характеристики замка, т.е., например, если в кодовом замке комбинация из букв и цифр, а нейросеть создана под замок с комбинациями только из цифр, то результата вообще не будет, точнее он будет - отрицательный результат - это тоже результат.
Отсюда некий дуализм: с одной стороны если вы знаете как решить проблему без нейросети, то она(НС) не нужна; с другой, если вы не знаете, то это тоже скорей всего пустая трата времени.
По сообщению в Американском журнале Рентгенологии (American Journal of Roentgenology - AJR) учеными из Китая было проведено исследование по определению возможностей нейронных сетей при ультразвуковой диагностике рака щитовидной железы.
Ученые пришли к замечательному на мой взгляд выводу, что нейронная сеть оказалась хуже радиологов, которые участвовали в её обучении!
Ученые пришли к замечательному на мой взгляд выводу, что нейронная сеть оказалась хуже радиологов, которые участвовали в её обучении
И вот собственно чем этот вывод замечателен!
Дэниел Шифман (Daniel Shiffman) в своей книге Природа кода(The nature of code) пишет(в моем переводе):
"Обучение с учителем - Обычно, стратегия включающая учителя, который умнее нейронной сети."
И здесь будет уместен вопрос, какая идея была положена в основу указанного исследования, доказать принцип обучения с учителем? В чем здесь инновация? Вода мокрая, трава зеленая, небо голубое...подтвердили, молодцы, гениально.
как и предыдущая работа, в закрытом доступе, но шуму подняли просто жуть.
Вот например что пишет об этой статье Leonard D'Avolio, PhD из Гарварда(как обычно в моем переводе) - "Они ясно обрисовали разницу между риском проведения исследования зависящем от человеческой интуиции на основании анализа им нескольких точек и возможностями технологии машинного обучения "учиться" на миллионах точек в комбинациях невозможных для человека."
Вот такое смелое и одновременно на мой взгляд сомнительное заявление профессора из медицинской школы Гарварда.
А вот что пишет об этих "противниках" мой любимый автор по данной теме С.Хайкин - "Мозг представляет собой чрезвычайно сложный, нелинейный, параллельный компьютер. Он обладает способностью организовывать свои структурные компоненты, называемые нейронами так, чтобы они могли выполнять конкретные задачи(такие как распознавание образов, обработку сигналов органов чувств, моторные функции) во много раз быстрее, чем могут позволить самые быстродействующие современные компьютеры. Примером такой задачи обработки информации может служить обычное зрение. В функциии зрительной системы входит создание представления окружающего мира в таком виде, который обеспечивает возможность взаимодействия с этим миром. Более точно, мозг последовательно выполняет ряд задач распознавания(например, распознавания знакомого лица в незнакомом окружении). На это у него уходит около 100-200 миллисекунд, в то время как выполнение аналогичных задач даже меньшей сложности на компьютере может занять несколько дней."
Короче говоря, в удивительные, я бы даже сказал, мистические времена мы живем товарищи! Времена падения общего уровня образования - сказок и сказочников.
Пурга помпезных сообщений пронеслась с очередного съезда радиологов в Чикаго (RSNA 2016), глубокое обучение продолжает будоражить сознание ученых, кажется оно может почти все.
Хорошо, что среди них встречаются и реалисты.
"Deep learning will not replace radiologists any time soon, but it can accelerate boring, tedious tasks significantly and provide high-level screening to large groups of patients," Mader said. "Understanding and tracing the decisions from a large neural network is a very much open, unsolved problem and is essential for clinical acceptance."
"Глубокое обучение не заменит радиологов в ближайшее время, но может существенно ускорить скучную требующую большого количества времени работу и обеспечить скрининг высокого уровня больших групп населения. Вопрос понимания того на чем именно основывается принятие решения нейронной сетью остается открытой, нерешенной проблемой для использования в клинической практике." - Кевин Мадер, основатель 4Quant, лектор Федерального технологического института г.Цюрих, Швейцария (выпускником которого считается Альберт Эйнштейн)
Комментарий: Скрининг конечно возможен, так, например, акушерский УЗИ-скрининг на хромосомные аномалии изначально нечто эфемерное, из серии черного ящика, так что хуже не будет, лучше скорей всего тоже(и то и др. - тыкание пальцем в небо с закрытыми глазами в надежде попасть в звезду, что весьма вероятно хотя бы даже потому, что планета вращается, т.е. рано или поздно попадешь!). Как говорится - "Чем бы дитя не маялось, лишь бы денег не просило...".
Доктор Пол Чанг(Paul Chang) из Чикагского Университета(University of Chicago) ответил на вопросы портала auntminnie.com(видео-интервью с RSNA 2016) по поводу ИИ(искусственный интеллект) в радиологии.
В частности, он озвучил тенденцию страха перед ИИ среди радиологов, которая заключается в том, что они боятся, что он их заменит. Несмотря на то, что эта технология еще не внедрена в рутинную практику, студенты медицинских вузов уже отказываются идти в радиологию прогнозируя исчезновение этой специальности, благодаря ИИ. Доктор Чанг пояснил, что это не верный прогноз, ИИ не заменит радиолога, он должен упростить его работу, а не заменить. Как он образно выразился, это будет "цифровой помощник"(digital buddy).
Другой важный аспект, на который обратил внимание доктор Чанг, это не готовность IT-инфраструктуры ЛПУ - "Как мы собираемся внедрять эту технологию, если сами до сих пор обмениваемся данными на СD?".
И самый важный аспект, это невозможность получения критериев на которых глубокое обучение(deep learning) строит свою оценку.
PS. Несколько слов от себя, как часто это бывает, слухи бегут впереди "паровоза", люди так сильно верят в силу несуществующего, что готовы, принимать решения, в частности о выборе специальности, на основе " воздуха".
ИИ - пока нет, и в ближайшее время вряд ли что-то изменится! Те допотопные нейронные сети, взлет которых мы сейчас наблюдаем, это лишь мода, которая скоро пройдет, как уже бывало, т.к. они не способны ответить на главный вопрос - " Как ты это сделал?" . Наука - это не магия!
