Com o avanço da tecnologia, a Inteligência Artificial (IA) desempenha um papel cada vez mais importante no âmbito acadêmico e empresarial. O Machine Learning (ML), em particular, tem sido amplamente utilizado como uma ferramenta para maximizar lucros, reduzir custos, melhorar a tomada de decisões e identificar anomalias. É notável que tanto empresas como artigos científicos se têm concentrado em aplicar técnicas de IA para abordar esses desafios de maneira mais eficiente e precisa. Com os desenvolvimentos na área dos Sistemas de Informação (SI), permitiu a criação de abordagens e tecnologias cada vez mais poderosas para processamento e armazenamento de dados (e.g., Big Data, Machine Learning, Predictive Analytics), afetando positivamente diversos setores da economia tais como: saúde; finanças; marketing digital; e indústria. Com a integração crescente da IA nestes sistemas, surge uma nova preocupação: como garantir que as decisões automatizadas sejam compreensíveis, justificáveis e éticas? E aqui entra a "explainable artificial intelligence" (XAI).
 

• Xplainable Artificial Intelligence (XAI): O que é?

O conceito de “explicabilidade”nasceu nos sistemas inteligentes (da década de 80) através dos Sistemas Especialistas, que procuravam justificar as suas decisões através de “explicações baseadas em regras”(“rule-based explanations”). Na altura, a preocupação era sobretudo tornar os sistemas simbólicos compreensíveis para especialistas humanos, principalmente em contextos médicos e industriais. A partir do ano 2010, a “explicabilidade” começou a ter maior proliferação e consolidação nos sistemas de apoio à decisão. Isto porque tem sido necessário reforçar o porquê de explicar os processos automatizados, que muitas vezes são considerados Black-Box. Essa falta de transparência originou o ramo da eXplainable Artificial Intelligence (XAI), que procura tornar os sistemas de IA mais compreensíveis e interpretáveis. A XAI visa explicar como e por que razão um modelo chega a determinada decisão, promovendo confiança, ética e responsabilidade no uso da tecnologia.

• Técnicas de XAI

Existem várias técnicas de XAI, que podem ser divididas em dois tipos:

• Modelos intrínsecos: são naturalmente explicáveis, como Árvores de Decisão e Regressões Lineares.

• Métodos pós-hoc: aplicam-se após o treino de modelos complexos (como redes neuronais) para gerar explicações sobre o seu comportamento. Entre os métodos mais utilizados, os que mais se destacam são os seguintes:

• Local Interpretable Model-agnostic Explanations (LIME) - cria modelos locais simplificados para explicar previsões individuais.

• SHapley Additive exPlanations (SHAP) - distribui o impacto de cada variável com base na teoria dos jogos. • Feature Importance e Partial Dependence Plots (PDP) – mostram a influência e comportamento das variáveis no resultado do modelo.

• What-if Scenarios: A análise what-if (ou “e se”) é uma técnica fundamental em XAI que permite explorar como pequenas alterações nos dados podem afetar as previsões de um modelo, permitindo compreender o comportamento interno do modelo e identificar a sensibilidade das variáveis na decisão final. Um exemplo de aplicação de XAI pode ser consultado neste link.
 

• Impacto gerado

A aplicação de técnicas de eXplainable Artificial Intelligence (XAI) e de análises explicáveis em Sistemas de Apoio à Decisão Inteligentes (SADI) produz impactos relevantes nestas principais dimensões:

1. Impacto na confiança e aceitação dos utilizadores: a explicabilidade permite que os decisores compreendam como e por que razão uma recomendação foi gerada, aumentando a confiança nos sistemas e diminuindo a resistência à sua adoção, sobretudo em domínios críticos como a saúde (ex.: triagem clínica), finanças (ex.: avaliação de crédito) e justiça (ex.: avaliação de risco de reincidência).

2. Impacto na qualidade das decisões: explicações locais e globais auxiliam na validação, correção e contextualização das recomendações. Ao identificar os fatores determinantes de uma decisão (por exemplo, variáveis influentes ou outliers), os decisores podem ajustar intervenções humanas ou regras de negócio, promovendo decisões mais robustas e consistentes.

3. Impacto ético e regulatório: XAI facilita a transparência e a auditabilidade, suportando requisitos legais (por exemplo, direito à explicação). A inspeção das explicações ajuda a detetar e mitigar viéses e discriminações, tornando possível executar ações corretivas sobre dados ou modelos.

4. Impacto estratégico e organizacional: as explicações tornam os insights de IA mais acionáveis, melhorando a comunicação entre analistas, gestores e stakeholders e possibilitando a identificação de oportunidades de otimização (e.g., redução de custos, reconfiguração de processos, priorização de sensores na manutenção preditiva).

Para além destes efeitos diretos, a XAI está a ser cada vez mais utilizada como um meio para melhorar a propria resposta da IA: explicaçoes orientam o debugging de modelos, a seleção e engenharia de caracterısticas, a calibraçao de probabilidades e a deteçao de data drift; permitem fluxos de trabalho human-in-the-loop onde o feedback humano, suportado por explicações, é usado para retreinar o modelo e melhoria contínua.

A eXplainable Artificial Intelligence (XAI) representa um passo essencial na evolução dos Sistemas de Apoio à Decisão Inteligentes (SADI), ao promover transparência, confiança e responsabilidade nas decisões automatizadas. Num contexto em que a IA é cada vez mais determinante para a competitividade e inovação organizacional, a capacidade de compreender e justificar as suas previsões tornou-se uma condição fundamental para a sua adoção sustentável e ética.

A explicabilidade não é apenas um requisito técnico, mas também um elemento estratégico que reforça a ligação entre a análise de dados e a tomada de decisão humana. Através de técnicas como o Feature Importance, o SHAP, o LIME ou as análises what-if, é possível compreender o impacto das variáveis, testar cenários alternativos e ajustar modelos de forma informada. Também contribui para decisões mais justas, eficazes e alinhadas com os objetivos de negócio. Atualmente, este princípio de explicabilidade tem vindo a ser uma prática constante nos projetos desenvolvidos no Instituto CCG/ZGDV onde a integração de mecanismos de XAI permite não apenas aumentar a robustez e a transparência dos modelos, mas também transformar os resultados analíticos em conhecimento acionável para as organizações. Esta abordagem reforça o papel do CCG na promoção de inovação responsável e no desenvolvimento de soluções inteligentes.