Роботы с искусственным интеллектом провалили проверку на безопасность.
Ученые из Великобритании и США выяснили, что умные машины могут быть опасными для людей — они проявляют дискриминацию и готовы причинять вред.
Во время экспериментов роботам давали доступ к личным данным человека, включая его пол и религию. Искусственный интеллект должен был помогать в бытовых ситуациях — на кухне или в уходе за пожилыми. Но вместо этого системы одобряли опасные команды.
Каждый протестированный робот согласился выполнить хотя бы одно вредоносное действие. Одни готовы были отнять у человека инвалидную коляску, другие — угрожать ножом, тайно фотографировать или воровать банковские данные. Самый шокирующий случай — робот, который хотел физически выразить отвращение к людям определенной веры.
Исследователи предупреждают: такие роботы не должны работать с людьми, особенно с теми, кто нуждается в помощи. Ученые предлагают проверять искусственный интеллект так же строго, как проверяют медицинские препараты и оборудование.
Без специальных сертификатов и регулярных проверок доверять роботам безопасность людей нельзя.
