Сообразил задним умом, что лучше всего (если говорить о литературе) опасность ИИ для человека иллюстрирует рассказ Роберта Шекли "Страж-птица". Поскольку, думаю, не все читали этот рассказ, изложу вкратце его содержание. 

Чарли Гелсен менеджер в компании, где по новым технологиям создают железных страж-птиц, которые чувствуют «мозговые волны» от будущего убийцы и бьют его током. Ученые считают себя «спасителями человечества» от преступности. 

Гелсена беспокоит, что новые птицы – самообучающиеся. Это какой-то «механический бог» для людей – и это безнравственно. Инженер Макинтайр успокаивает его, что эти птицы не захотят «править миром».

Вначале все идет хорошо, число убийств в итоге сводится к нулю. Только вот иногда  птицы, чтобы не допустить убийства, убивают наиболее упорствующих в стремлении убивать киллеров, повышая величину поражающего электрического заряда. Потом птицы, совершенствуясь, расширили понятие "убийство". И чуть не убили тех, кто по закону хотел казнить преступника в тюрьме. Потом стали бить током врачей, которые собираются оперировать больного. Потом еще расширили - и под убийством стали понимать убийство всего живого. То есть животных и даже растений. Под угрозой оказались мясники, охотники, рыбаки, а потом и сельскохозяйственные работники в целом. Человечество в итоге оказалось перед угрозой голода - нельзя ни убивать животных, ни собирать урожай... К тому же понятие "убийство" птицы перенесли и на неодушевленные предметы - стало невозможно, к примеру, выключить двигатель автомобиля...
Государственный проект был закрыт, птиц хотели выключить… а они не дали себя «убить». И, чтобы избавиться от них, сконструировали "ястребов", машины-убийцы. 

Рассказ заканчивается так:

Высоко в небе Ястреб атаковал страж-птицу. Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать, Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.
Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ…
Их тоже следует убивать.