RSS

Die Geheimhaltung der drei Affen

21 Jul
A Private Place, Foto: Peter Lee, CC BY-NC

Foto: Peter Lee, CC BY-NC

Noch nie waren Politiker und ihre Sprecher so dankbar für die Geheimhaltungspflicht. Kennen wir nicht, wissen wir nicht? Nein, es geht viel einfacher: Die Aussage, etwas unterliege der Geheimhaltung, ist nicht anfechtbar, weil ihr Wahrheitsgehalt nicht überprüft werden kann. Die unüberwindbare Schanze wird noch verstärkt durch die praktische Sperrigkeit des Themas Big Data. Wer kann sich unter „Milliarden Datensätzen“ schon etwas vorstellen?

Die Kanzlerin meint ganz ernsthaft: „Es ist nicht meine Aufgabe, mich jetzt in die Details zu PRISM einzuarbeiten.“ Dann ist ja gut. Dann kann das nicht so wichtig sein, und außerdem ist Frau Merkel ja auch in aller Seelenruhe in Urlaub gefahren. Wir hören schon gar nicht mehr hin, weil wir zurecht nur Phrasen erwarten. Unsere Bereitschaft, die Bedeutung anscheinend nichtssagender Sätze zu erfassen, geht gegen null, dabei sagen Sprechmuster in krisenhaften Situationen viel aus. Hier offenbaren sie die Gleichgültigkeit einer politischen Klasse, die zudem restlos verschwitzt hat, konsequent über die Nutzungsmöglichkeiten der gigantischen Datensammlungen nachzudenken.

Wer die Daten hat, hat die Macht. Was jetzt ob der schieren Menge noch nicht ausgewertet werden kann, werden zukünftige Algorithmen problemlos in eine verwertbare Form bringen. Lasst es noch ein paar Jahre liegen, irgendwann werdet ihr es brauchen können, frisst ja kein Brot. Weil auch das unter eine firmen- oder dienstinterne Geheimhaltung fällt, werden wir die Veränderungen kaum bemerken.

Ohne gleich Hans Hütts Dystopie zu bemühen: Unsichtbar, geruch- und geschmacklos werden die Ergebnisse und Schlüsse aus den Big Data unser Leben verändern. Sie werden die Höhe unserer KfZ-Versicherung bestimmen, unsere Krankenversicherungsprämie, unsere Gewohnheiten und Bekanntschaften bewerten. Die Einreise in andere Länder wird davon abhängen, wen wir kennen, wen unsere Bekannten und deren Freunde kennen. Gesundheitshinweise an der Supermarktkasse werden uns auf schädliche Lebens- und Genussmittel hinweisen: „Sie haben ein erhöhtes Zucker-Risiko. Dieses Produkt kann Ihnen schaden, Sie können es leider nicht erwerben. Das tut uns leid.“ Dass wir dabei bloß noch Webseiten zu sehen bekommen, die unseren Vorlieben und Ansichten entsprechen, während alles andere unterdrückt wird, ist eine vergleichsweise geringe Einschränkung. Wenn wir es zulassen, werden wir nicht mehr entscheiden, sondern es wird für uns entschieden werden – von Maschinen.

Das alles ignoriert die wahlkämpfende Truppe. Es ist kein Breitenthema, und es soll auch tunlichst keines werden. Dass die BILD sich seiner im Sommerloch bedient – geschenkt. Viel aussagekräftiger ist das glaubhaft blauäugige Erstaunen des Abgeordneten Uhl. Wenn das Weltbild eines Menschen mit gefestigten konservativen Wertvorstellungen plötzlich Haarrisse bekommen kann, werden andere ähnlich denken.

Natürlich hofft die Kanzlerin, nach der Sommerpause werde schon die nächste fette Sau über die Dörfer getrieben, und vermutlich stimmt das. Doch die Schnüffelei-Debatte hat bereits Dynamik enwickelt: es geht nicht mehr um Snowden, Held oder Verräter, unsere amerikanischen Freunde oder Neubauten von Abhörzentralen. Auf vielen unterschiedlichen Ebenen wird über unsere Grundrechte diskutiert. Die hängen nicht von Handlungen irgendwelcher Verbündeter ab, sondern von dem Menschenbild deutscher Politiker. Ist der rundum beschützte Bürger wirklich unser Wunsch für die Zukunft? Brauchen wir nicht vielmehr einen Verfassungsschutz, der tut, was er im Namen trägt, und Geheimdienste, die uns im Rahmen der freiheitlichen Grundordnung Wirtschaftsspionage vom Hals halten? Eine Polizei, die die Bevölkerung schützt, und nicht die Interessen durchgedrehter Märkte? Politiker, die vorausschauend und transparent im Namen des Volkes wirtschaften, statt sich opportunistisch hinter scheinbaren Sachzwängen zu verstecken?

Wenn es anstrengend ist, sich Zukunft auszumalen, müssen wir diese Anstrengung unternehmen. Wir müssen entscheiden, wie wir leben wollen. Aber natürlich können auch wir uns verstecken.
 

 
15 Kommentare

Verfasst von - 21. Juli 2013 in Politik

 

Schlagwörter: , , , , , , , ,

15 Antworten zu “Die Geheimhaltung der drei Affen

  1. KL

    21. Juli 2013 at 19:47

    „… werden wir nicht mehr entscheiden, sondern es wird für uns entschieden werden – von Maschinen“

    Pardon, aber das ist so falsch wie immer und überall, wo DIE MASCHINEN oder DIE ALGORITHMEN als ‚entscheidend‘ vorgestellt werden. Es sind und bleiben Menschen, 1. die den Programmierauftrag geben, 2. die das Programm schreiben, 3. die dem Programm die Daten eingeben. Menschen entscheiden, und nur, weil wir die sozial nicht zuordnen können (wir wollen uns ja nicht bei schlichten Verschwörungstheorien ertappen!), liegt es scheinbar nahe, die Maschinen verantwortlich zu machen. Sie sind es nicht. Keine Axt ist schuld, wenn einer mit einer einen anderen einen Kopf kürzer macht.

    Das zu übergehen, ist für mich die Hauptschwäche auch bei Hütt (und bei Schirrmacher, dem er folgt).

     
  2. opalkatze

    21. Juli 2013 at 20:28

    Das übergeht niemand. Du wirst aber zugeben, dass die Empfehlungen, die ich von Amazon bekomme, von Maschinen ausgegeben werden, ganz gleich, was einmal am Anfang stand. Menschen neigen zu Vereinfachungen, die von Maschinen perfekt geleistet werden. Aggregierung, Aus- und Bewertung liegen eben nicht mehr bei Menschen. Solche Datensammlungen entwickeln schon allein aufgrund ihrer Masse, die durch Menschen nicht mehr begreiflich oder regelbar ist, ein Eigenleben. Je mehr Daten es gibt, desto mehr Verarbeitungsschritte werden zwangsläufig Maschinen überlassen.

     
  3. KL

    22. Juli 2013 at 00:11

    “ Solche Datensammlungen entwickeln schon allein aufgrund ihrer Masse, die durch Menschen nicht mehr begreiflich oder regelbar ist, ein Eigenleben.“

    Pardon noch einmal – aber das ist Selbstbenebelung. Die Daten leben nicht und können so auch kein Eigenleben entwickeln. Es sind Menschen, in Firmen, in Verwaltungen, in Geheimdiensten, in Armeen, in Machtpositionen jeder Art, die bestimmen, welche Muster gesucht und zu neuen Mustern kombiniert werden – und so ist es menschliches Interesse, das die automatisierte Datenerhebung, -sichtung, -kombination etc. bestimmt. Das Programm schreibt sich nicht selbst, es wird geschrieben und der beauftragte, in Lohnarbeit fronende Programmierer entscheidet nicht darüber, was das Programm tun soll. Wenn dem Schmied ein Auftrag erteilt wird, eine Axt zu schmieden und zu schleifen, dann macht er eine Axt. Die Axt macht sich nicht selbst.
    Und vor allem tritt sie nicht nach eigener Logik in Aktion. Stell Dir vor, was ein Computer tut, wenn man den Stecker zieht: nichts. Am Computer ist besonders nur, daß seine Funktion von einer ungeheuren Sammlung von Antizipationen, Erwartungen, Voraussichten definiert worden ist (der Programmierer muß alle denkbaren Fälle einer angenommenen Regel bedenken) – aber das sind Antizipationen menschlichen Verstandes. Die Maschine kann nichts außer dem, was der Programmierer vorher bedacht und dann implementiert hat. Die Empfehlungen bei Amazon werden von Maschinen ausgegeben, sicher – aber nicht gegeben. Hat eigentlich noch niemand die Arbeit der Marktforscher, Konsumpsychologen, Kundenprofiler (oder wie immer sie heißen) z. B. bei Amazon erforscht ? Sie sind es doch, die Regeln formulieren wie z. B.: wenn ein Kunde die Ware X kauft, sucht, ansieht, dann wird er auch Y interessant finden etc. Ein Computer kann so etwas überhaupt nicht und ein Algorithmus, ein Programm kann es auch nicht. Algorithmen sind Folgen geregelter Regelanwendungen – Anwendungen, nicht Erfindungen. Computer funktioneren noch immer nicht anders als die mechanischen Rechenmschinen mit Handkurbel, die Schickard, Pascal, Leibniz im 17. Jh. konzipiert haben, sie sind nicht klüger als eine Kombination von Zahnrädern.

     
  4. opalkatze

    22. Juli 2013 at 00:28

    Jein – da kommen wir nicht zusammen. Ich glaube, dass es einen Punkt gibt, an dem es für Menschen nicht mehr nachvollziehbar ist, was da passiert – der mag in der Zukunft liegen, aber er wird erreicht werden. Früher™ konnte ich mein Auto noch selbst reparieren (ein englisches, da war das Notwehr): Mechanik, Schraubenschlüssel, Handwaschpaste, fertig. Heute kann ich nicht mal mehr feststellen, welchen Fehler es hat, dazu brauche ich eine Werkstatt und elektronisches Messgerät. Oder Platinen löten: geht auch nicht mehr, bei diskreten Bauteilen versagt die gute alte Weller. Hoffe, damit wird etwas klarer, was ich meine.

     
  5. HF

    22. Juli 2013 at 06:09

    „Wenn wir es zulassen, werden wir nicht mehr entscheiden, sondern es wird für uns entschieden werden – von Maschinen.“
    s/Maschinen/Gott/
    Die Priesterschaft und die Tempelwirtschaft bleiben uns erhalten, wo also ist die Veränderung?

     
  6. pantoufle

    22. Juli 2013 at 11:35

    @HF
    Die Tempelwirtschaft akzeptiert nun Visa und Mastercard.

     
  7. pantoufle

    22. Juli 2013 at 11:58

    Moin KL
    Das kommt mir alles etwas wie Wortklauberei vor. Natürlich haben die Daten per se keine Eigenleben. Die von Dir beschriebene Rolle des Menschen aber ist Selbstvernebelung.

    Prism und Tempora haben keinen Stecker, den man mal eben ziehen kann. Dort werden auch keine überschaubaren und simplen Produkte wie Äxte produziert. Der von Dir postulierte Verstand des Menschen, von dem Du annimmst, daß er jederzeit Herr über die Algorithmen, den Code ist, existiert in dieser Form nicht. Dazu müßte der Code dafür absolut fehlerfrei geschrieben sein. Das ist nicht nur fragwürdig – es ist vollkommen unmöglich. Um selbst mit dem fehlerhaften Code nachvollziehbare Ergebnisse zu produzieren, dürfte nur eine sehr begrenzte Menge an Menschen Einfluß auf ihn haben. Übersteigt diese Menge eine bestimmte Größe, nimmt eine Fehlerhäufigkeit zu, deren Ursachen zwar menschlich sein mögen, deren Ergebnisse aber nicht mit der Intension des Codes übereinstimmt.
    »Der Programmierer muß alle denkbaren Fälle einer angenommenen Regel bedenken«
    Das hat man sich bei Microsoft und SAP sicher auch gedacht. Es funktioniert aber nicht. Nicht nur manchmal nicht, sondern eigentlich nie.
    Ausgehend davon, daß der Code immer Fehler beinhaltet (oder die Algorithmen nur unscharf formuliert sind), müßten die Ergebnisse in dem beschriebenen Fall (Prism, Autopilot im Flugzeug) eingehend von Menschen auf Plausibilität überprüft werden. Das ist im Falle des Autopiloten verhältnismäßig einfach (Flugzeug zeigt nach unten, Erde kommt rasend schnell näher), im Fall von Suchergebnissen von Prism ungleich schwerer. Eine Plausibilitätsprüfung durch den Menschen findet nur noch oberflächlich statt; was Aufgrund der Datenmenge auch nicht anders möglich ist.

    Und an diesem Punkt beginnt ein Eigenleben: Die Illusion einer Objektivität, die kaum noch hinterfragt wird, werden kann. Es ist eben kein Kriminalbeamter, der nach Spuren sucht – nach sehr unscharfen Kriterien, Bauchgefühl und Instinkt.
    Ein Algorithmus, der darauf angelegt ist, etwas zu finden, wird etwas finden. Zwar ist er von Menschen formuliert, was sich in der Darstellung des Anwenders (Fahnders) aber so nicht zeigen wird. Er kennt den Algorithmus nicht – will ihn auch gar nicht kennen -, er will ein Ergebnis. Führt die Suche nicht zum gewünschten Ergebnis, werden die Kriterien geändert. An einem bestimmten Punkt steigt die Entropie, was nichts anderes als Informationsverlust bedeutet. Dieser Punkt ist für den Anwender in der Regel nur schwer feststellbar – er vertraut Daten, nach denen der Suchalgorithmus niemals konzipiert war.

     
  8. opalkatze

    22. Juli 2013 at 12:12

    @pantoufle
    Mit dem Vertipper „humanoider Fahnder“ hätten wir dann auch schon die voraussichtlich nächste Stufe. Nicht dystopisch, sondern wahrscheinlich.

     
  9. pantoufle

    22. Juli 2013 at 12:17

    @Katze
    :-) Schon gesehen. Genau das …die Polizei: Dein menschenähnlicher Freund und Helfer!

     
  10. opalkatze

    22. Juli 2013 at 12:30

    Ach, wir sehen nur zu viele amerikanische Filme.

     
  11. KL

    23. Juli 2013 at 08:35

    “ … an dem es für Menschen nicht mehr nachvollziehbar ist, was da passiert … “

    Das ist die Laienperspektive auf ein Problem, das Fachleuten keine Rätsel aufgeben kann. So könnte ich auch über die erstaunlichen Leistungen der neueren Schreitroboter denken – weil ich nicht weiß, wie die das machen: Richtungen bestimmen, Gleichgewicht halten, Schrittweiten aufs Bodenprofil abstimmen. Aber ich denke nicht so, weil ich weiß, daß diese Geräte von lebendigen Ingenieuren konzipiert, konstruiert und gebaut wurden. Und die wissen genau, was sie wollen, und installieren Systeme und Funktionen, die erlauben, die gesetzten Ziele zu erreichen (wenn nicht, dann wird weitergesucht, weitergebastelt).

    Daß die Arbeitsteilung eine derartige Masse an technischer Detailorganisation hervorbringt, daß ein einzelner Kopf nicht mehr eine ganze Anlage oder gar ein ganzes weltumspannendes System von technischen Anlagen vollständig detailliert in einem mentalen Bild präsent hat – d’accord. Aber warum sollte es a priori unmöglich sein, den Stil oder das Muster von Detaillösungen an Exempeln zu begreifen und dann ohne minutiöses Wissen um alle Einzelheiten das Gefüge der Einzellösungen zu studieren – um dann verstehen zu können, wie es in den für uns bedeutsamen Aspekten funktioniert: wer setzt es ein, mit welcher Begründung, mit welchen verschwiegenen Zielen, mit welchen Effekten; um dann erörtern zu können, wie man auf die Installateure und Bediener und vor allem die Befehlsgeber Einfluß nehmen kann.

    @pantoufle
    Der Stecker war eine Metapher. Die Axt Teil einer eine Analogie. Zu schwer ?
    Auch PRISM und Tempora sind nicht auf Bäumen gewachsen, sondern von Menschen in sozialen Abhängigkeiten konzipiert, installiert und eingesetzt worden. Wir können uns fragen, ob wir vor der Durchschaubarkeit der Motivbildung in komplexen sozialen Organismen kapitulieren, ob wir annehmen, daß sowieso nie verständlich wird, unter welchen Bedingungen wer wann wie handelt – damit wäre die Skepsis wenigstens am richtigen Ort: der Kapitulation vor der Erkenntnis der Machtverhältnisse und Interessenlagen das Wort geredet. Aber statt dessen zu behaupten, daß die Maschinen uns an der Freiheit und Selbstregierung hinderten, heißt, das Problem verwechseln.

     
  12. KL

    23. Juli 2013 at 08:39

    @pantoufle

    Hier finde ich noch einen Satz, der die Kapitulation vor dem wirklichen Problem deutlich illustriert: „Und an diesem Punkt beginnt ein Eigenleben: Die Illusion einer Objektivität, die kaum noch hinterfragt wird, werden kann“.

    Warum bitte ‚kann‘ die Illusion nicht hinterfragt werden ? Wenn sie denn schon als Illusion gezeichnet ist ?!
    Warum nun nicht weiterfragen, weiterforschen, bis die bequeme Selbsttäuschung – „man kann ja gar nicht verstehen, was vor sich geht“ – in Fetzen liegt ?

     
  13. opalkatze

    23. Juli 2013 at 11:36

    Die es einsetzen, sind keine Ingenieure, sondern Bären von begrenztem Verstand oder Militärs, die beide notorisch fragen, was könnte es denn noch können können? Denen die Implikationen nicht klar sind und die grenzenlos technikgläubig sind (wie sonst ist Messen und Regeln sensibler Strukturen über das Internet zu erklären?). Übrigens habe ich nirgends gesagt, dass „Maschinen uns an der Freiheit und Selbstregierung hinderten“.

     
  14. KL

    25. Juli 2013 at 11:30

    „Übrigens habe ich nirgends gesagt, dass ‚Maschinen uns an der Freiheit und Selbstregierung hinderten‘.“ Das ist natürlich wörtlich richtig – nur läuft die Haltung, Maschinen würden für uns entscheiden, für mich auf eben diesen Schluß hinaus.

    Aber nun tauchen dann doch „Bären von begrenztem Verstand“ in Deinen Argumenten auf. Interessant. Es gibt also etwas außer den Maschinen. Aber davon spreche ich gerade – und mehr noch von den anderen Bärinnen und Bären, die sagen, über kurz oder lang könne niemand mehr überblicken, was die automatische Datenverarbeitung alles zustandebringe – also müsse man sich ja wohl fügen.
    Das ist das Problem: die Haltung, die meint, was eine Maschine ausspucke, sei hinzunehmen, weil man nicht verstehe, wie es entstanden sei. Aber wenn ein vollautomatischer Bagger (stellen wir uns einen vor), durch eine falsche Programmierung plötzlich ein Loch mitten auf der Hauptverkehrsstraße aushebt, werden wir doch nicht sagen: nun ja, wir wissen nicht, wie es zustande gekommen ist, also werden wir wohl mit diesen Folgen, hier dem Loch, leben müssen ?! Wir akzeptieren doch auch z. B. Schadstoffemission von Benzinautos nicht länger – dabei könnte uns jeder Autoingenieur erklären, daß das Auto genau so funktioniere, wie konzipiert und anderes auch gar nicht möglich sei – ohne daß wir kompetent wären, ihm zu widersprechen: wir wissen ja nicht, wie der ganze Verbrennungsvorgang genau abläuft. Aber wir wehren uns dennoch gegen die behauptete Alternativlosigkeit.
    Eines Tages kommen wir vielleicht noch auf die Idee, das grenzenlose Recht auf private Mobilität zu bezweifeln ! Und wenn nicht ? Dann sitzt das Problem: in uns. – So lange wir meinen, die Politiker, Militärs etc. pp. seien halt technikgläubig und täten, was sie immer tun, nämlich mehr, als sie verantworten, auch nur verstehen können, setzen wir uns fatalistisch gestimmt in den Sessel und klagen folgenlos. Dabei ist die Aufgabe schon genannt: diesen Funktionären eine Umgebung schaffen, in der sie sich hübsch vorsehen, was sie tun: 1. Transparenz der Verwaltungsakte, 2. gesetzliche Rechenschaftspflicht, 3. funktionierende Untersuchungskommissionen (müssen ja nicht aus dem Parlament sein – wo sind z. B: Gesetze für Bürgerkomitees, die öffentliche Anhörungen von Experten, Funktionären, Politikern vornehmen dürfen?), 4. ziviler Ungehorsam: Whistleblower,
    Ich kann nicht sehen, daß die anwachsende Komplexität und Kompliziertheit der Datenverarbeitung uns dazu verurteilt, die Folgen von Datenauswertung zu dulden. Zu erleiden ja, aber dauerhaft zu dulden ??

    Leider ist das ein zu weitläufiges Thema und die Zeit überall knapp. Gerade, wenn es um so fundamentale Differenzen geht, bräuchten wir so sehr viel mehr Zeit und Geduld. Ich werde es wohl auch nicht schaffen, hier regelmäßig und gründlich zu posten; und im Blog hier gibt es schon wieder vier neue Themen. Ich ahnte das, aber konnte dennoch nicht widerstehen, pardon.

    Vielleicht ergibt sich mal eine andere Möglichkeit, diesen Faden weiterzuspinnen.

    Grüße,
    KL

     
 
%d Bloggern gefällt das: