Interpretovatelnost (Interpretability)

Interpretovatelnost znamená, jak snadno lze porozumět tomu, jak AI model došel ke svému výsledku. U složitých modelů, jako jsou hluboké neuronové sítě, bývá toto vysvětlení obtížné – říkáme, že model je „černá skříňka“. Interpretovatelnost je zásadní ve vysoce regulovaných oblastech, jako je zdravotnictví, finance nebo právo, kde je důležité rozumět důvodům rozhodnutí AI.