Необходим критический подход к применению систем искусственного интеллекта для анализа и прогноза действий людей и социальных систем.
С развитием технологий все больший масштаб приобретает сбор данных обо всех аспектах жизни человека — его общении, перемещениях в пространстве, финансовых операциях, покупках, содержании просматриваемого им контента в Интернете, его рабочих и личных интересах. Сбор и объединение таких данных транснациональными корпорациями, осуществляемый формально в целях лучшего таргетирования рекламных и информационных потоков, делает проницаемым и прозрачным пространство частной жизни людей. Человеку должна быть обеспечена защита от любых форм посягательств на безопасность информации конфиденциального и частного характера*.
Вызывает тревогу, что обществу все чаще предлагается рассматривать человека не как уникальную личность, наделенную свободной волей и самосознанием, а как объект, поведение которого биологически задано и предсказуемо, может моделироваться при помощи искусственного интеллекта. При таком подходе также ставится под сомнение достоинство человеческой личности.
Необходимо сохранить понимание уникальной ценности каждого человека и не допустить построения систем тотального контроля. Также необходим критический подход к применению систем искусственного интеллекта для анализа и прогноза действий людей и социальных систем. Не следует сводить представление о человеке к существу, которое определяется набором измеряемых характеристик, и поступки которого предсказуемы, как у машины.
* Ст. 2 Хартии о сохранении цифрового наследия, принятой на Генеральной конференции ЮНЕСКО 15 октября 2003 года.
