Sicherheit
Risikoregister
Bekannte Fehler- und Missbrauchsszenarien dieser Demo und die in der App umgesetzten Gegenmaßnahmen. Diese Übersicht ersetzt keine medizinische oder regulatorische Risikoanalyse.
Risiken und Gegenmaßnahmen
Jedes Risiko ist einer konkreten Schutzmaßnahme in der Anwendung zugeordnet.
| Risiko | Mögliche Folge | Schwere | Gegenmaßnahme in der App |
|---|---|---|---|
| Falsch-negatives Ergebnis bei Melanom | Patient sucht keinen Arzt auf, Melanom wird zu spät erkannt | Hoch | Ampel-System zeigt bei Unsicherheit immer Gelb, Disclaimer empfiehlt Arztbesuch |
| Falsch-positives Ergebnis bei harmloser Läsion | Unnötige Angst, überlastete Arztpraxen | Mittel | Sprache vermeidet Diagnose-Formulierungen, Details erst nach Klick sichtbar |
| Nutzung ungeeigneter Fotos (Smartphone statt Dermatoskop) | Stark verzerrte Ergebnisse | Hoch | Hinweis vor der Analyse, Empfehlung für Bildqualität |
| Übervertrauen in Prozentwerte | Fehlinterpretation als klinische Wahrscheinlichkeit | Hoch | Prozentwerte nur in Detailansicht, Erklärungstext |
| Nutzung bei dunklen Hauttypen (Fitzpatrick V–VI) | Deutlich schlechtere Modellgenauigkeit | Hoch | Expliziter Hinweis in Modellkarte und Disclaimer |
| Nutzung durch Kinder oder vulnerable Gruppen | Fehlinterpretation ohne medizinisches Grundwissen | Mittel | Zweckbestimmung schließt diese Gruppen explizit aus |
| App wird als Ersatz für Vorsorgeuntersuchung genutzt | Versäumte Früherkennung | Hoch | Prominenter Disclaimer, kein Screening-Versprechen |
| Bias bei dunklen Hauttönen (Fitzpatrick V–VI) | Deutlich schlechtere Klassifikationsgenauigkeit bei Menschen mit dunkler Haut – ROC-AUC-Drop von 27–36 % dokumentiert (Daneshjou et al., 2022) | Hoch | Expliziter Hinweis in Modellkarte, Methoden-Seite und Demo-Ergebnis. Nutzer werden auf diese Limitation hingewiesen. |
| Das Modell findet immer einen Treffer | Jedes hochgeladene Bild wird einer der 7 Kategorien zugeordnet, auch ein völlig gesundes Muttermal. Das System gibt keine „unauffällig“-Antwort. | Hoch | Prominenter Hinweis in der Demo und auf der Methoden-Seite. Ampel-System kommuniziert Unsicherheit, ersetzt aber keine Aussage über Gesundheit. |