A IBM estabeleceu cinco pilares essenciais para uma IA confiável, que são fundamentais para garantir que esses sistemas sejam seguros e benéficos para a sociedade.
Explicabilidade: Um sistema de IA confiável deve ser capaz de explicar suas decisões e ser compreensível por um especialista da área. A lógica por trás das decisões da IA deve ser clara e coerente, mesmo para quem não é especialista em tecnologia.
Justiça: A IA não deve ser viesada em favor ou contra grupos específicos ou populações. Para garantir a justiça, os sistemas de IA precisam ser treinados em conjuntos de dados diversificados, como objetos ou rostos, para evitar reconhecimento viesado.
Além disso, existem outros três pilares essenciais para uma IA confiável:
Transparência: O sistema de IA deve ser transparente, permitindo que os usuários compreendam como ele funciona e quais dados ele utiliza.
Robustez: O sistema de IA deve ser capaz de resistir a ataques e manter sua integridade.
Privacidade: O sistema de IA deve proteger os dados do usuário e manter a privacidade.
Esses princípios são fundamentais para garantir que os sistemas de IA sirvam aos seres humanos, e não o contrário. Eles devem ser esperados dos fornecedores de sistemas de IA e devem ser projetados para prevenir problemas como viés, violações de dados e ataques mal-intencionados.