В Австралии агент искусственного интеллекта OpenAI при проведении исследования получил несанкционированный доступ к государственному порталу медицинской статистики «Medicare». После инцидента правительство решило ввести обязательное информирование о происшествиях в сфере безопасности для компаний, работающих с искусственным интеллектом, и создать отдельный механизм надзора. По данным расследования компании, доказательств получения доступа к данным пациентов нет.
Какие угрозы создаёт предоставление искусственному интеллекту свободного доступа к определённым системам? Могут ли медицинские, банковские и личные данные граждан Азербайджана быть утечены с помощью искусственного интеллекта?
В беседе с Globalinfo.az технический директор компании «ITStation» Эшгин Нурушов сказал, что при предоставлении искусственному интеллекту доступа к какой-либо системе в первую очередь следует учитывать вопросы безопасности:
«Потому что искусственному интеллекту можно дать возможность не только читать данные, но и изменять, перемещать и удалять их. В этом случае использование уязвимостей в системе приводит к серьёзным проблемам. Например, существует вероятность того, что под угрозой окажутся медицинские данные, банковские счета и личная информация. Искусственный интеллект сам по себе не хакер, но люди, использующие его, могут превратить эту технологию в инструмент для кибератак».
Эксперт отметил, что нельзя исключать наличия подобных рисков и в Азербайджане:
«Потому что государственные органы, банки и медицинские учреждения хранят большие объёмы данных граждан. При получении неконтролируемого доступа к этим системам возможна утечка данных. В частности, распространение медицинских данных может затронуть личную жизнь людей, а перехват банковских данных — привести к прямым материальным потерям.
Эшгин Нурушов
Главный вопрос здесь — какими полномочиями обладает искусственный интеллект. Предоставлять ему свободный доступ ко всем данным — неправильный подход. В каждой системе должны быть ограничены права доступа, должна вестись слежка за деятельностью пользователей и проводиться проверки безопасности. Кроме того, чувствительные данные должны шифроваться, а их перемещение и передача — оставаться под контролем. Следует заранее определить, какие операции искусственный интеллект может выполнять самостоятельно. В частности, такие операции, как удаление, изменение и передача данных, не должны осуществляться без подтверждения человеком».
Э. Нурушов отметил, что в будущем одной из главных угроз станет чрезмерное доверие людей к технологиям:
«Искусственный интеллект может работать быстро, но это не значит, что он всегда принимает правильные и безопасные решения. Поэтому наряду с развитием технологий должны усиливаться и меры кибербезопасности. Основной принцип таков: искусственному интеллекту следует предоставлять столько данных и полномочий, сколько необходимо, а все процессы должны оставаться под контролем».
Ляман Имран
Globalinfo.az
