Archiv der Kategorie: Demokratische Wahrheit
xAi / Grok
Elon Musk hat nun die Veröffentlichung des Chatbots „Grok“ angekündigt und es scheint tatsächlich so schlimm zu werden, wie ich es mir dachte. In meiner Studie zu Large Language Models hatte ich in einem extra angehängten Epilog genau dieses Szenario antizipiert. Aus aktuellem Anlass veröffentliche ich diesen Abschnitt nochmal gesondert. Epilog Die öffentliche Debatte um Künstliche Intelligenz geht sehr häufig um spekulative Szenarien rund um AGI, Superintelligenzen und die Frage, ob diese uns nun retten oder ausrotten werden. Doch LLMs müssen nicht superintelligent sein – eigentlich müssen sie überhaupt nicht in einem menschlichen Sinne intelligent sein –, um einen enormen Einfluss auf alle Aspekte unserer Welt zu haben. Wenn eine Technologie so tief in unser kollektives Betriebssystem – die Sprache – implementiert wird, sind die Effekte vorhersehbar groß und unvorhersehbar vielfältig. Paul Virilio hat einmal gesagt, dass jede Technologie ihren eigenen Unfall produziert (Virilio/Lotringer 1983, S. 35 f.). Zwei Dinge sind dabei zu ergänzen: Ein Unfall ist nur dann ein Unfall, wenn er nicht vorhergesehen wurde. Und die Gefährlichkeit des Unfalls ist proportional zur Mächtigkeit des verunfallenden Systems. Denken wir an Social Media. Die Euphorie aus den Anfangstagen war im Nu verflogen, als wir feststellten, dass Plattformen als politische Waffen … Weiterlesen
Verschlagwortet mit ki large language models musk twitter xai
2 Kommentare
Die große Manipulations-Erzählung
/***** Dieser Text erschien im Magazin Hohe Luft Kompakt (Sonderheft 1/20). Dies ist die unredigierte Version, aber dafür mit Fußnoten. ******/ Es war im Jahr 1957, als ein Amerikaner namens James Vicary herausfand, dass man Menschen mittels bewusst kaum wahrnehmbarer Botschaften manipulieren kann. Blendet man zum Beispiel im Kino für den Bruchteil einer Sekunde die Botschaft „Esst mehr Popcorn“ ein, steigt nachweisbar der Popcorn-Umsatz. Vicarys Studie zu „Sublimnal Stimuli“ wurde weltberühmt. Allerdings nicht durch Vicary selbst, sondern über ein Buch, das im selben Jahr Furore machte: „Die Geheimen Verführer“ von Vance Packard.1 Dort wird unter anderem Vicarys Studie beschrieben, natürlich negativ, als Warnung an uns alle. Die Welt war zutiefst beunruhigt und das Wissen um Sublimnal Stimuli hat sich bis heute im kulturellen Unterbewusstsein festgebissen. Im Kultfilm Fight Club von 1999 hat sie einen Auftritt als Tyler, der im Film als Kinovorführer jobbt, einzelne Bilder aus einem Porno in einen Hollywoodfilm schneidet, woraufhin die Kinder anfangen zu weinen. Wie viele spannende Geschichten, hat auch diese einen Haken. Das Experiment von James Vicary war rein erlogen und „Sublimnal Stimuli“ gibt es nicht. Obwohl Vicary in einem Interview von 1962 selbst zugab, das Experiment zur Steigerung des Umsatzes seines Marketingunternehmens erfunden zu … Weiterlesen
Verschlagwortet mit erzählung luhmann manipulation
7 Kommentare
Digitaler Tribalismus und Fake News
Text: Michael Seemann / Datenauswertung: Michael Kreil (DataScience&Stories des Tagesspiegels) [Dokument als PDF laden.] [English Version] Einleitung Das Internet war für mich immer der Traum der Freiheit. Damit meine ich nicht nur die Freiheit der Kommunikation und der Information, sondern auch die Hoffnung auf eine neue Freiheit der sozialen Beziehungen. Soziale Beziehungen sind, trotz aller sozialer Mobilität der modernen Gesellschaft, auch heute noch etwas sehr Unfreies. Vom Kindergarten über die Schule, den Verein bis zum Unternehmen durchlaufen wir ständig Organisationsformen, die uns fremdbestimmt gruppieren, sortieren und somit entindividualisieren. Von der Hasen- und Igel-Gruppe bis zur Staatsbürgerschaft ist die Gesellschaft als Gruppenspiel organisiert und unsere Mitspieler dürfen wir uns nur selten aussuchen. Und dann heißt es: „Finde dich ein, ordne dich unter, sei ein Teil von uns.“ Das Internet erschien mir als Ausweg. Wenn sich jeder Mensch mit jedem anderen Menschen direkt in Beziehung setzen kann – so mein naiv-utopische Gedanke – dann braucht es keine vergemeinschaftenden Strukturen mehr. Auf einmal können Individuen sich auf Augenhöhe begegnen und sich selbst organisieren. Gemeinschaften entstünden auf einmal als Resultat individueller Beziehungen, statt umgekehrt. Im Idealfall gäbe es überhaupt keine Strukturen mehr, die über die individuell-selbstbestimmten Beziehungsnetzwerke jedes Einzelnen hinausgingen.1 Spätestens die Wahl Donald … Weiterlesen
Societies of Post-Control (Talk)
This was my opening keynote at the conference „Societies of Post-Control“ in January 2017 in Amsterdam.
Das Regime der demokratischen Wahrheit IV – It’s the Culture, Stupid
Zurück zum Regime der demokratischen Wahrheit und der Frage: wie kann jemand, der offensichtlich lügt, einfach so damit davonkommen (Teil I)? Wir haben festgestellt, dass die neue Pluralität der Medien vielleicht auch ihre Schattenseiten hat (Teil II) und dass Trump schon während des Wahlkampfes eine gewisse Antifragilität (Teil III) gegen alle möglichen Skandale entwickelt hat und begonnen, diese Antifragilität zu analysieren. Es ist diese Antifragilität, die nicht nur ihn, sondern auch seine Lügen schützt. Es scheint fast so, als würden die Menschen gar nicht merken, dass er lügt, als ob die Fakten viele Leute überhaupt nicht mehr erreichen. Trump-Anhänger/innen scheinen immun zu sein gegen Fakten, immun gegen die Wahrheit. Wir wollen an dieser Stelle aber alle Thesen verwerfen, die mit dem Bildungsgrad oder der Intelligenz der Trump-Supporter/innen argumentieren. Diese Immunität ist keine natürliche, sie ist eine hergestellte. Eine populäre Erklärung dieser Immunität ist die vielzitierte Filterblase. Eli Pariser hat 2011 die Welt davor gewarnt, dass unser Social Media-Konsum dazu führt, dass wir die Welt nur noch personalisiert wahrnehmen. Filter, die vor allem aus unseren Freunden und Followings bei Facebook und Twitter bestehen, aber auch aus den Algorithmen der Plattformen, selektieren unsere Nachrichten vor und vermitteln uns so ein verzerrtes oder … Weiterlesen
2 Kommentare
Das Regime der demokratischen Wahrheit (Teil III) – Antifragilität und euphorische Ironisierung
Wir haben im ersten Teil eine neue Art der politischen Lüge identifiziert und sie “demokratische Wahrheit” genannt. Im zweiten Teil haben wir sie genauer definiert und festgestellt, dass die durch das Internet veränderte Medienlandschaft der ideale Nährboden der demokratischen Wahrheit ist. Doch wie wirkt der Mechanismus der demokratischen Wahrheit nun genau und wie organisiert er seine Öffentlichkeit? In diesem Teil wollen wir versuchen, Trumps Strategie seiner Unangreifbarkeit freizulegen.1 Als Mitt Romney 2012 in einer kleinen Wahlkampfveranstaltung sagte, dass er sich in seiner Präsidentschaft nicht um die 47 % Transferempfänger kümmern wolle, war ihm nicht klar, dass jemand den Ton mitgeschnitten hatte. Als die Aufnahme veröffentlicht wurde, stürzten sich die Medien darauf, der Skandal nahm seinen Lauf. Romneys Kampagne war ruiniert. So läuft das in den USA. Das Mediensystem ist unerbittlich, man darf sich keine Fehler erlauben, die Medien zerstören einen sofort. Donald Trump wurde zerstört. Jede Woche mindestens einmal, den gesamten Wahlkampf über. Und durchaus zu recht, denn die Skandale sprudelten fast täglich in die Medien. Ein Skandal in der Größe von Mitt Romneys Ausrutscher hätte es bei Trump wahrscheinlich nicht mal in das Ressort Vermischtes geschafft. All die dunklen Machenschaften die auftauchten, seine Angriffe auf Richter, republikanische Ikonen, Kriegshelden … Weiterlesen
Das Regime der demokratischen Wahrheit (Teil II) – Die Deregulierung des Wahrheitsmarktes
Im ersten Teil dieser Reihe haben wir uns mit den spezifischen Lügen der Trump-Regierung beschäftigt und sie gegen die herkömmliche politische Lüge einerseits und die machtvolle, diktierte Wahrheit in autokratischen Systemen andererseits abgegrenzt. Und wir haben uns entschlossen, die spezifische Weise des Lügens der Trump-Regierung “demokratische Wahrheit” zu nennen. Es wird Zeit, diesen Begriff etwas genauer zu fassen. “Demokratie” war schon immer ein umstrittener Begriff – ein politischer Kampfbegriff – aber dabei immer positiv konnotiert. Jeder will Demokrat sein. Selbst die autoritärsten Systeme nannten sich mit Freude Demokratie. In seiner banalsten Deutung übersetzt man Demokratie schlicht mit Volksherrschaft und insofern man als Herrscher plausibel machen kann, dass das Volk schon auf der eigenen Seite ist, fällt es nicht schwer die Grenze zwischen Autokratie und Demokratie zu verwischen. Wir verwenden also den Begriff in „demokratische Wahrheit“ nicht ohne einen augenzwinkernden Verweis auf diese Begriffsgeschichte. Aber wesentlicher noch ist, dass Trumps Wahrheitsverständnis tatsächlich die Funktionsweise von Demokratie zugrunde zu liegen scheint. Als Donald Trump von Bill O’Reilly auf Fox News gefragt wurde, warum er – ohne irgendwelche Hinweise darauf zu haben – an der These festhalte, dass es zu Wahlbetrug zugunsten Hillary Clintons gekommen sei, weist er darauf hin, dass es doch … Weiterlesen
14 Kommentare
Das Regime der demokratischen Wahrheit (Teil I) – Comical Spicer
Als 2003 die amerikanischen Panzer bereits in Bagdad einrollten, hielt der irakische Informationsminister Muhammad Saeed al-Sahhaf nur wenige hundert Meter davon entfernt eine Pressekonferenz, in der er genau diese Tatsache bestritt. Die Amerikaner, davon zeigte er sich überzeugt, seien kurz vor der Kapitulation. Ein paar Tage zuvor erzählte er, dass die amerikanischen Soldaten zu hunderten Selbstmord begingen, sich also vor allem selbst abschlachteten – kein Grund zur Sorge für die irakische Regierung also. Diese und andere aggressive Leugnungen der offensichtlichen Realität brachte ihm schließlich den Spitznamen „Comical Ali“ ein. So absurde Propaganda konnte im Westen nur noch als Entertainment verstanden werden, nicht mehr als ernstzunehmender Versuch der Lüge. Comical Ali hat seitdem seinen Job bei Saddam Hussein aufgegeben, sich einen amerikanischen Haarschnitt wachsen lassen und seinen Namen in Sean Spicer geändert. Das jedenfalls könnte man glauben, wenn man derzeit die Nachrichten aus den USA verfolgt. Doch halt. Da war ja noch was? War nicht der ganze Irakkrieg selbst aufgrund dreister Lügen zustande gekommen? War die Bush-Regierung auch nur im Ansatz aufrichtiger? Was ist so komisch and Comical Ali, was soll schon anders sein an Sean Spicer als an Ari Fleischer, dem damaligen Pressesprecher von George W. Bush? Was soll das … Weiterlesen