Flugkapitän Chesley Sullenberger und sein Erster Offizier Jeffrey Skiles haben mit ihrer Notwasserung auf dem Hudson am 15. Januar 2009 gezeigt, dass Automation alleine nicht reicht, um ein Flugzeug sicher zu fliegen. Mensch und Maschine haben spezielle Stärken und Schwächen. Somit sollten Mensch-Maschine-Systeme im Flugzeug immer so gestaltet sein, dass diesen Stärken und Schwächen Rechnung getragen wird, um ein Optimum an Sicherheit, Effektivität und Effizienz zu erreichen.

Selbstverständlich muss die letzte Entscheidungsgewalt im Cockpit immer beim Menschen liegen. Einige der besonderen Stärken des Menschen sind Kreativität, Flexibilität und Bewertung. Insbesondere in unvorhergesehenen Situationen sind diese Stärken von extrem großem Wert, können aber nur dann eingebracht werden, wenn dem Menschen auch die Möglichkeit bleibt „entscheidend einzugreifen“.

Worum es geht

Automation ist aus unserer modernen Welt nicht mehr wegzudenken. Dies trifft in besonderem Maße auf die Arbeit im Cockpit zu, wo  beispielsweise der „Auto-Pilot“ und die automatische Schubregelung seit vielen Jahren zum Standard gehören. Aktuelle Entwicklungen deuten  darauf hin, dass die Automation in Zukunft eine weitaus größere Rolle übernehmen soll. Einige zukunftsorientierte Branchenführer aus der Automobil- und Telekommunikationsindustrie propagieren bereits „selbstfahrende“ Autos und auch in der Luftfahrt gibt es bereits erste Ansätze von „selbstfliegenden“ Luftfahrzeugsystemen.

Für die Vereinigung Cockpit (VC) tun sich hierdurch einige Fragen auf:

• Wie zuverlässig sind die heutigen Computersysteme?
• Ist eine „autonome Steuerung“ eines Fahrzeugs überhaupt möglich – und wenn ja, wünschenswert?
• Sollten Menschenleben gänzlich einem Computer anvertraut werden oder sollte nicht doch ein Mensch in letzter Instanz entscheiden?
• Wie kann gewährleistet werden, dass der Mensch in immer komplexeren und komplizierteren Systemen die Entscheidungsgewalt behält?

Betrachten wir die obigen Fragen etwas näher:

Zuverlässigkeit
Es gibt wenige Nutzer von Navigationsgeräten z.B. im Irre geführt worden sind (oder wären, wenn Sie nicht rechtzeitig selbst anders „entschieden“ hätten).

Auch wenn moderne Computersysteme deutlich zuverlässiger geworden sind, stürzen in großer Zahl genutzte Geräte wie PCs, Tablets und Smart Phones immer noch regelmäßig ab. Die Computer in modernen Flugzeugen sind da keine Ausnahme. Die Systeme sind zwar robuster ausgelegt und unterliegen auch strengeren Qualitätsvorschriften, aber die Komplexität in der zivilen Luftfahrt ist gleichzeitig auch höher geworden und die operationellen Umstände sind oft deutlich dynamischer als in anderen Verkehrssystemen (mal eben „rechts ranfahren“ ist im Flugzeug keine Option).

Autonome Steuerung
Ob es überhaupt schon möglich ist, ein Fahrzeug insbesondere ein Luftfahrzeug autonom zu betreiben, hängt stark von der Definition von „Autonomie“ ab. Die  VC kritisiert hierbei, dass Autonomie und Automation oft mit einander vermischt werden – dabei gibt es unserer Meinung nach zwischen Automation und Autonomie signifikante Unterschiede.
Autonomie wird laut Wikipedia als ein Zustand der Selbstbestimmung, Unabhängigkeit (Souveränität), Selbstverwaltung oder Entscheidungsfreiheit definiert. In der englischen Version steht zusätzlich noch konkret im Hinblick auf unbemannte Fahrzeuge: „Autonomie oder autonomes Verhalten ist in Bezug auf unbemannte Fahrzeuge ein kontroverser Begriff, da es Verständnisunterschiede darüber gibt, ob etwas, was ohne Außenbefehl agiert, dies aus seinen eigenen Fähigkeiten heraus tut, oder durch eine vorprogrammierte Methode des Entscheidungsbildens tut.“

Für Automation gibt es sogar eine offizielle Definition des Deutschen Instituts für Normung (DIN) V 19233: „Das Ausrüsten einer Einrichtung, so dass sie ganz oder teilweise ohne Mitwirkung des Menschen bestimmungsgemäß arbeitet“ – von Selbstbestimmung, Selbstverwaltung oder Entscheidungsfreiheit ist hier keine Rede (eine DIN Definition zu Autonomie gibt es noch nicht).

Wir folgern aus diesen Definitionen, dass Automation sich auf die Ausführung bezieht, wohingegen Autonomie sich auf die Entscheidung im Sinne von „frei“ und „unabhängig“ bezieht. So definiert ist eine autonome Steuerung nach dem heutigen Stand der Technik, wenn überhaupt, nur sehr begrenzt möglich. Selbst die modernsten Computersysteme arbeiten immer noch nach (vor)programmierten Algorithmen und somit nicht wirklich frei und unabhängig. Eine computerkontrollierte Steuerung wäre somit allenfalls eine höchst-automatisierte Steuerung. Ob eine solche - mehr oder weniger - automatisierte Steuerung die Entscheidungsgewalt haben sollte, ist mehr als fraglich.

Entscheidungsgewalt und Systemdesign
Da die Automation (Computersysteme) nur innerhalb der (vor)programmierten Parameter agieren kann, wären im Falle einer kompletten „Kontroll-Übergabe“ auch alle möglichen Entscheidungen auf diese Parameter beschränkt. Dies mag in einem extrem stabilen und „fehlerfreien“ System funktionieren. Der Linienbetrieb eines modernen Verkehrsflugzeugs ist aber weder stabil noch fehlerfrei.

Die Steuerung eines Verkehrsflugzeugs ist ein extrem komplexer Informationsregelkreis. Versuche, diesen Regelkreis komplett zu automatisieren, sind bisher allesamt gescheitert. Verkehrsflugzeuge der neuesten Generation haben zwar einen hohen Entwicklungsstand erreicht, dennoch sind auch die modernsten Flugzeugsysteme nicht fähig, im Falle von unerwarteten Systemfehlern selbst situationsgerechte Lösungen zu finden.

Im Zuge zunehmender Vernetzung und Integrierung von anderen Systemen (z.B. Verkehrssteuerungssysteme oder Bodenabfertigungssysteme) werden sowohl Komplexität als auch Dynamik und somit auch das Fehlerpotential eher zunehmen. Wenn es bereits große Probleme bei der Automatisierung der Flugzeugsteuerung gibt, wie groß werden dann wohl die Probleme bei der Automatisierung der gesamten Flugbetriebsprozesse?

Der Psychologe Paul Fitts beschäftigte sich bereits in den 1950er Jahren mit Mensch-Maschine Systemen. Er stellte die so genannte „Fitts-List“ auf, in welcher er versuchte aufzuzeigen, worin Menschen besser als Maschinen sind und umgekehrt:

Machines-Are-Better-At (MABA):  Geschwindigkeit, Kraft, Genauigkeit, Ausdauer, Berechnen, Multi-Tasking, Wiederholen, Deduzieren – außerdem haben Maschinen generell ein größeres Empfangsspektrum (mit höherer Auflösung) und sind widerstandsfähiger; stellen aber im Falle von Störungen in der Regel abrupt die Arbeit ein.

Humans-Are-Better-At (HABA): Kreativität, Flexibilität, Induktion, Priorisieren, Erfahrung auf Gegenwart projizieren, Nuancen wahrnehmen, Beurteilen/Bewerten – hören in der Regel im Falle von Störungen nicht abrupt auf zu arbeiten, sondern lassen (mehr oder weniger langsam) in der Leistung nach.

Seit den 1950er Jahren hat die Automation sich sicherlich deutlich weiterentwickelt und einige Experten argumentieren, dass Maschinen mittlerweile den Menschen in einigen Bereichen (z.B. Nuancen wahrnehmen oder Bewertung) überholt haben. Dennoch besteht weitestgehend Konsens darüber, dass der Mensch der Maschine immer noch in den Bereichen Kreativität und Flexibilität weit überlegen ist und auf absehbare Zeit bleiben wird.

Genau diese Fähigkeiten – Kreativität und Flexibilität – sind aber in unvorhergesehenen Situationen gefragt. In solchen Situationen müssen Entscheidungen gefällt werden, welche generell nicht vor-programmierbar sind und somit eigentlich nur vom Menschen getroffen werden können.

Oft wird von Verfechtern der „möglichst totalen Automation“ argumentiert, dass 90 Prozent der Unfälle in der Verkehrsfliegerei durch „menschliches Versagen“ verursacht wurden. Wir halten diese Argumentation aus mehreren Gründen für fehlerhaft.

Erstens werden nur die Unfälle betrachtet, aber nicht die vielen, vielen Vorfälle, welche durch rechtzeitiges Eingreifen des Menschen entschärft wurden (und somit nie in einem Unfall endeten). Zweitens sind die meisten Unfälle in der Zivilluftfahrt das Resultat einer langen Fehlerkette, an deren Ende fast immer die Piloten stehen. Diesen Piloten wird dann oft vorgeworfen nicht richtig (re)agiert zu haben. Dabei wird selten berücksichtigt, dass im Vorfeld bereits viele Fehler begangen wurden (z.B. Design der Systeme, operationelle Bedingungen, Ausbildung der Piloten). Unter den vielen Fällen, welche die Automation alleine nicht hätte bewältigen können, hier exemplarisch ein paar Beispiele:

• United Airlines 232 (1989) Sioux City
  McDonnell Douglas DC-10-10, kompletter Hydraulikausfall: Die Maschine konnte nur aufgrund der außergewöhnlichen fliegerischen Leistung der Besatzung und eines DC-10-Fluglehrers, der zufällig an Bord war, mittels des Triebwerksschubes gesteuert und notgelandet werden. Es überlebten 185 der 296 Personen an Bord. Durch die Ausnutzung und Koordination aller verfügbaren Hilfsmittel während der Notsituation gilt der Zwischenfall als exzellentes Beispiel für ein erfolgreiches Crew Resource Management (CRM).
• US Air 1549 (2009) NY Hudson River
  Airbus A320, kompletter Schubverlust durch Vogelschlag: Notwasserung auf dem Hudson-Fluss, alle 150 Passagiere und 5 Besatzungsmitglieder überlebten.
• Quantas 32 (2010) Singapur
  Airbus A380, schwere Schäden durch Triebwerksexplosion: Kompletter Ausfall der Automatik, Flugzeug nur schwer steuerbar. Zufällig befanden sich fünf Piloten im Cockpit, deren hervorragende Zusammenarbeit zu einer erfolgreichen Notlandung führte. Alle 440 Passagiere und 29 Crewmitglieder überlebten.
• LH 1829 (2014) Bilbao
  Fehlerhafte Sensoren führten zur falscher Aktivierung der vollautomatischen Steuerung, welche das Flugzeug in einen rasanten Sinkflug steuerte. Nur durch (vom Hersteller nicht vorgesehener) Abschaltung bestimmter Bordsysteme konnte die Crew die Kontrolle über die Maschine erlangen und sicher landen. Alle 109 Passagiere und 6 Crewmitglieder überlebten. 

Ein vollautomatisches und damit je nach Definition autonomes Luftfahrzeug wäre in allen vier Fällen abgestürzt.

Das fordert die Vereinigung Cockpit

Automation ist ein wichtiger Bestandteil der modernen Verkehrsfliegerei. Maschinen und Computersysteme sind dem Menschen in vielen Bereichen (z.B. Geschwindigkeit, Kraft, Genauigkeit, Ausdauer, Mehrfach-Bewältigung von Aufgaben, Wiederholen) überlegen. Allerdings gibt es Bereiche (z.B. Kreativität und Flexibilität) in welchen der Mensch der Maschine bzw. Computersystemen deutlich überlegen ist.

Die Vereinigung Cockpit (VC) hält es für selbstverständlich, Mensch-Maschine-Systeme in der Verkehrsfliegerei so auszulegen, dass die jeweiligen Stärken und Schwächen adäquat berücksichtigt werden. Hierbei müssen alle Systeme ergonomisch ausgelegt sein, also an den Menschen angepasst. Es müssen den Menschen (im Cockpit den Piloten) auch die entsprechenden Schnittstellen zum Erfassen der Situation und zum „entscheidenden Eingreifen“ gegeben sein. Außerdem muss die Aus-, Fort- und Weiterbildung der Piloten dieses ausreichend berücksichtigen und entsprechend abbilden.

Es ist essentiell, dass die endgültige Entscheidungsgewalt beim Menschen (Pilot) liegt. Nur so kann der Mensch seine großen Stärken – Kreativität und Flexibilität – einbringen, um ein Optimum an Sicherheit, Effektivität und Effizienz zu gewährleisten. Dies ist  insbesondere in unvorhergesehenen Situationen entscheidend - wen hätten Sie lieber als „verantwortlichen Piloten“ - Flugkapitän Sullenberger oder eine „Black Box “?