Нейросеть за несколько часов изобрела 40 тысяч ядов
Машинные алгоритмы часто используются для создания новых лекарства, но, изменив методику поиска, можно искать соединения, которые не спасают, а убивают.
Искусственный интеллект за 6 часов вывел формулу 40 000 потенциальных смертоносных молекул. Впрочем, алгоритм не виноват. Это ученые провели своего рода учения, чтобы узнать, на что способен искусственный разум, если использовать его в режиме “плохого парня”.
Обычно, нейросети применяют для того, чтобы помочь врачам найти новое лекарство. Если раньше медики создавали препараты методом научного тыка, то теперь алгоритмы шерстят электронные библиотеки, где хранятся данные о сотнях миллионах соединений. Программа выбирает молекулы, которые точнее всего попадают в биологическую мишень – это фермент или рецептор, который участвует в механизме возникновения заболеваний. Среди параметров отбора – тест на токсичность, поскольку лекарство, естественно, не должно иметь побочных эффектов. Так искусственный интеллект работает в обычном режиме. Но в один прекрасный день сотрудники американской фармацевтической компании получили приглашение поучаствовать в конференции, которую организовывал Швейцарский федеральный институт ядерной, биологической и химической защиты. Медиков попросили рассказать, что будет, если программы по созданию лекарств захотят использовать злодеи для каких-то дурных целей.
Поскольку они сами толком не знали ответа на этот вопрос, то решили провести эксперимент и изменили алгоритм. Теперь нейросеть должна была не отбраковывать токсичные соединения, а наоборот, искать наиболее смертоносные молекулы.
Когда были получены результаты, то первое, что бросилось в глаза – многие соединения, выглядели более токсичными, чем даже VX – это боевое отравляющее вещество нервно-паралитического действия, а ведь VX – это один из самых сильных боевых ядов. И кроме того, ученые были удивлены легкостью, с какой можно провернуть это черное дело. Многие программы и базы данных находятся в открытом и бесплатном доступе. И если вы умеете писать код на Python и немного разбираетесь в машинном обучении, то хватит пары выходных, чтобы построить алгоритм, который способен эффективно искать смертельно опасные вещества.
Ученые говорят, что именно отсутствие серьезного барьера на пути потенциальных злоумышленников побудило их опубликовать статью с результатами эксперимента в авторитетном журнале Nature. В качестве предупреждения человечеству.
Источник: kp.ru
