Холодильники сходят с ума, а нейросети пугают раком — чем обернулся бум ИИ

В Европе вдруг сошли с ума холодильники в супермаркетах. В разных странах, в разных сетях они в какой-то момент переключаются с заморозки на разморозку. Температура резко поднимается до +50, все, что может растаять, тает и течет, продукты портятся, владельцы магазинов хватаются за голову. А потом все повторяется снова. Понятно, что это делают какие-то хакеры, но зачем? Выкупа никто не требует, предупреждений не выпускает, ответственности не берет. Просто ломают, и все.

В политических кругах тут же указали на Россию: мол, это их война с Европой, русские хакеры. Москва, естественно, все отрицает. Но все и проще, и сложнее одновременно.

Большинство больших холодильных установок в магазинах управляются специальными «контроллерами» — микрокомпьютерами, которые следят за температурой. Чтобы инженеры могли проверять их удаленно, они подключены к интернету. Проблема в том, что многие до сих пор работают на старых паролях или вообще без нормальной защиты.

Чтобы это сломать, хакеру даже не нужна сложная вредоносная программа. Достаточно войти в систему под типичным паролем. Технически сделать такое мог практически кто угодно, кто немного разбирается в компьютерах. А с появлением искусственного интеллекта планка упала еще ниже. ИИ сам ищет уязвимые холодильники, подсказывает, какие команды отправлять. «Кто угодно» — это уже не преувеличение. Уволенный работник, обиженный покупатель, школьник, который так учится «хакерить», — у всех теперь в руках мощный помощник.

ИИ сегодня видится чудо-технологией, способной на что угодно. И вот в США зарегистрировали стартап, который по фото определяет, когда человек умрет. Описание звучит вполне научно: якобы проанализировали 40 миллионов фотографий здоровых и больных раком людей и нашли закономерности между чертами лица и продолжительностью жизни.

Какие именно — секрет, но говорят, что программу не обмануть ни макияжем, ни пластическими операциями. Если это так, то это, во-первых, сенсация, во-вторых, помощь врачам. Но, в-третьих, и это по-настоящему страшно, это основа для дискриминации, какой еще никто не видел. Программы медицинской помощи, социальной поддержки — все может быть выстроено на основании такой оценки. Зачем тебе помощь, если осталось «недолго»? Искусственный интеллект «приговорил».

Возможно ли такое и как отличить реальную медицину будущего от мишуры — в сюжете корреспондента «Известий» Сергея Хайдарова.

«Хорошие новости для пациентов — теперь лечить вас будет нейросеть», — заявляют местные новости HeartFlow WGRZ.

Пока весь мир по старинке сдает кровь, делает МРТ и ждет очереди на УЗИ, американские ученые совершили «прорыв» библейского масштаба.

«В нашем новом исследовании мы обнаружили, что пациенты с онкологией выглядели старше на пять лет. А те, кто не страдал от онкологии, наоборот, моложе лет на семь», — заявил директор программы по ускорению внедрения ИИ-алгоритмов в медицинскую науку и клиническую практику Хьюго Аэртс.

Сенсация от исследователей из Массачусетса: теперь, чтобы предсказать выживаемость при раке, пациенту достаточно просто сделать селфи.

«По сравнению с КТ или МРТ-сканером какая еще технология могла бы быть такой доступной и дешевой?» — отметил доцент кафедры радиационной онкологии Гарвардской медицинской школы и радиационный онколог Mass General Brigham Рэймонд Мак.

Новая нейросеть обучилась определять биологический возраст по морщинкам у носа и форме лба. Звучит красиво, американцы радуются, ученые по всему миру недоумевают.

«Говорить, что лицо будет точно отражать или вот этот признак на лице будет говорить о раке легкого, точно нельзя», — подчеркнул член Российского общества клинической онкологии Эльхан Ибрагимов.

Выглядишь свежо — будешь жить, устал на работе — искусственный интеллект скромно намекает, что шансы тают.

«Если у вас плохое состояние кожи, если у вас какой-то изможденный вид, то очевидно, с вашим здоровьем что-то не так. Неважно почему. И поэтому они берут онкологических пациентов и говорят: „Вот этот живенько выглядит, а этот уже как доходяга“», — отметил член наблюдательного совета, директор по проектной деятельности Ассоциации разработчиков и пользователей искусственного интеллекта в медицине Андрей Алмазов.

Всего одно селфи, и нейросеть уже выдает вам готовый диагноз. Но на деле такие приложения часто превращаются в опасную ловушку. Полагаясь на них, люди начинают лечить либо несуществующие недуги, либо, что гораздо хуже, упускают смертельные болезни.

Подобных чудо-сервисов, обещающих выявить рак по фотографии, сегодня полно и в России. Каждый десятый житель страны, по последним опросам, ставит себе диагноз с помощью нейросети.

«Если раньше мы боролись с тем, что пациент приносит недостоверную информацию с рекламного сайта какой-нибудь клиники, то сейчас мы боремся с тем, что необученная немедицинская система предлагает не очень правильный алгоритм лечения», — сказал главный врач Центра диагностики и телемедицины Москвы Юрий Васильев.

Мы провели свой эксперимент и узнали, чем именно опасны такие приложения и как они работают. Загружаем фото родинки. Результат готов уже через пару минут. Нейросеть патологий не выявила.

«Мы понимаем, что всегда может быть определенный вариатив ошибок. И в этом приложении честно его описывают», — отметил кандидат медицинских наук, ведущий научный сотрудник Института искусственного интеллекта AIRI Виктор Гомболевский.

В основном такие приложения настойчиво подбивают пользователя на то, чтобы купить платную подписку. Но как только вы спишете деньги и нажмете кнопку «Проверить», правила игры резко изменятся. Пока на экране крутится красивая анимация «умного ИИ-сканирования», где-то в глубине меню, на пятнадцатой странице пользовательского соглашения, приложение снимает с себя абсолютно все обязательства.

Открываем второе приложение. Загоняем туда абсолютно то же самое фото. Снова ничего.

Настоящие цифровые «качели» начинаются на третьем приложении. И вот он, пугающий результат: «Повышенный риск злокачественного образования».

Кто именно управляет вашим страхом, в самом приложении не написано. Мы нашли юридический адрес одного из таких сервисов: ниточки тянутся в Эстонию. Это значит, что ваши личные данные улетают прямиком на серверы в ЕС.

Но самое интересное запрятано в политике конфиденциальности. Вы даете авторам карт-бланш: они имеют право хранить эти снимки годами и делиться ими с кем угодно — от сторонних маркетинговых компаний до третьих лиц «на свое усмотрение».

«С одной стороны, виноват разработчик, чье приложение дало мне неверный результат. С другой стороны, чтобы получить неверный результат, я произвел определенные пользовательские действия. И из-за этого приложение выдало мне такой результат», — пояснила президент Ассоциации юристов медицинских клиник, ведущий эксперт по медицинскому праву со стороны клиник и системы здравоохранения Ирина Клопова.

Но отказываться от ИИ в медицине сами врачи даже не думают. Технологии компьютерного зрения официально внедряются по всей стране.

«Так искусственный интеллект обрабатывает огромный массив данных, помогая выявлять патологии. Но нейросеть не ставит диагноз, а лишь подсказывает врачу, на какую область стоит обратить внимание, начиная от головного мозга и заканчивая суставами человека», — рассказал Сергей Хайдаров.

В системе одновременно и непрерывно работают сразу 12 различных сервисов ИИ. Нейросеть просматривает тысячи КТ, МРТ и рентгеновских снимков в секунду, выступая в роли сверхвнимательного цифрового ассистента.

«Сервисы „оконтуривают“ для нас те зоны, на которые нам стоит обратить наибольшее внимание. И в данном случае мы согласны с сервисом искусственного интеллекта, что участок патологический», — отметила врач-рентгенолог Наталья Гузеева.

Нейросеть в кабинете врача — это высокоточный инструмент, а в сомнительном мобильном приложении — коммерческая игрушка. Так что главным и самым надежным «сервисом» остается визит к настоящему врачу.

Еще больше новостей — у Пятого канала в мессенджере МАКС