Mākslīgā intelekta līderi, tostarp Dario Amodejs no "Anthropic", aicina piebremzēt MI attīstības tempu, brīdinot par iespējamiem riskiem cilvēcei. Pētnieki izsaka satraukumu par straujiem tehnoloģijas attīstības soļiem un nosaka varbūtību, ka mākslīgais intelekts varētu iznīcināt cilvēci. Bijušais "Anthropic" inženieris ir skaļi pametis savu amatu, uzsverot, ka MI izstrādātāji tic tā potenciālam izraisīt milzīgas katastrofas. Turklāt "Anthropic" ir izdevusi brīdinājumus par ļaunprātīgu MI izmantošanu, tostarp bioloģisko ieroču un kiberuzbrukumu izstrādē, kas liek bažīgiem nozares darbiniekiem reflektēt par cilvēces nākotni.