Por que os requisitos de segurança gostam de desencorajar o uso da IA?

Parece que os requisitos de segurança não parecem gostar de sistemas que usam a IA para requisitos relacionados à segurança (particularmente quando estão envolvidos grandes riscos potenciais de destruição / morte). Alguém pode sugerirporque? Eu sempre pensei que, desde que você programa sua lógica corretamente, quanto mais inteligência você colocar em um algoritmo, maior a probabilidade de ele ser capaz de impedir uma situação perigosa. As coisas são diferentes na prática?

questionAnswers(10)

yourAnswerToTheQuestion