[for reading this article in it's original language (Slovak) scroll down]

What does the cognitive science say?

MR is a weakness that every human brain and our cognitive processes within it operate with, or to some degree. In short, we are all in it together, only the degree of immersion within the problem is different from person to person.

MR stands and falls on emotional biases. That is to say, on the reasoning that is most desirable to our psyche because it directly reflects our emotional state of mind. Often, in the case of manipulation, it is one of the strongest emotions - anger, fear, indignation. For example, when we learn of a tragic event, we need to know quickly who the culprit was and then, for our own peace of mind, we need to find a satisfying answer that the culprit has been fairly punished. If this reassurance is not forthcoming, our minds remain in tension and turmoil. In such an emotional state, the human brain is often unable to think rationally. Then each of us becomes the ideal prey for the manipulator.

Thanks to MR, during these emotional upheavals, our brain prefers one emotional level of thinking, and rejects, or puts on the back burner, the facts and factual evidence that would help us see that reality is different than the emotional manipulation we are currently confronting. For the brain would quickly go into dissonance. Our rationality would contradict our emotional experience. In the head, such a mix manifests as restlessness (and there is a chance you might be getting a headache just from these few paragraphs, sorry... no one said neuroscience is easy.

Out of this dissonance comes the conflict in our brain and in our thinking. A person in such a state largely has no adaptive strategy other than to look for arguments in favour of conclusions we want to believe, which are stronger than arguments for conclusions we do not want to believe. To put it in spades: a sentence comes out, it's not true, but it could be. The reasons why our brains act this way are endless.

IN PRACTICE, "THANKS" TO ALL THIS, RELIGIOUS SECTS OR CULTS EXIST...

Let us talk a little bit more about one principle that is often found in members of a religious sect, for example. And in order to understand it a little better, try imagining yourself being in one for a moment.

As it is customary in sects or cults, all members often wear the same or similar clothes (let's say the same dark green colour). Uniformity gives you a sense of belonging, and our evolution has ensured that for many people the need to belong and be respected in a group is extremely important.

For the cult leader, this uniformity is also advantageous. It suppresses the individuality of the members, eliminates the risk of resistance or rebellion, and ensures the existence of a social dynamic where his every word is accepted as the unchanging and only truth.

Imagine that your sect exists on planet Earth in the year 2020, when all of humanity is going through a coronavirus pandemic. Everyone around you is wearing veils. You and the other members naturally start using them too. However, a problem gradually arises for the leader. The uniformity of the sect is broken. Even people outside the sect that the leader has so laboriously built up are wearing the robes. So the sect leader decides to take action. He starts to scare the members that wearing the veil will make them sick. For example, he makes up a story that the mask leads to CO2 inhalation (we debunk this nonsense here )

Wearing the veil soon becomes a symbol of shame and members stop wearing it. Only the rest of society outside the sect wears it and they are irrelevant and inferior to you and the other members of the sect. Actually, the fact that you and the members of your sect don't wear the veil will further confuse you and make you believe that the leader was right again and it is only everyone around you who is misguided, inferior, or evil.

You're probably also finding parallels between what's going on in the world today and the above-mentioned description of social dynamics of a cult. Many manipulators are aware of the power of motivated reasoning and actively use it in their toxic activities. This is also why people often speak of tribalism, of living in new age tribes where we each have our own reality and only believe what is the preferred truth in particular circles. This is a result of the fact that man is first and foremost a social creature.

And that is what this description refers to. For members of various sects are able to know rationally even further what is rational and what is not. For example, they know that wearing masks helps to protect them in the age of the corona, and that it is also responsible towards others.

But their emotional attachment to the group does not allow them to wear such veils or to wear them properly. The solution for them might be these drapes that mimic the improper wearing of the mask, which is perceived, in those circles, as "braggadoccio", or in other words, arrogant perception. This, however, paradoxically can serve as source of further respect and self-affirmation from their group, which is more supportive than feeling good about their rationale for acting in accordance with their rationality.

SO WHAT'S UP WITH THAT?

Many people thanks to today's omnipresent influence of social networks, but not exclusively have long fallen into following similar sects and/or tribalistic world view. We will not get out of this mess without mutual empathy and an effort to foster an honest dialogue, filled with mutual respect. That is why it is good to remember that although it is difficult to have the necessary patience and respect for people with wacky or dangerous views on the internet, we will have to learn to do so.

Without building trust and making ourselves available to the other side through understanding, we will never have a chance to rebuild all those bridges that our new technologies have managed to brake or damage. All in all, communication technologies could help us in doing so, whereby the mantra is not maximizing the attention gained from a global audience, but the principle of meaningful connections. You can learn more about this from designer Tristan Harris, who has shared his thoughts here and in a couple of days you'll be able to watch the Netflix documentary The Social Dilemma, where Tristan will be revealing new insights into how we might one day reconcile the human brain and today's communication technologies.










SLOVAK VERSION

MOTIVOVANÉ UVAŽOVANIE ALEBO KDE SA BERIE VIERA V BLBOSTI

Psychológ Peter Ditto z Kalifornskej univerzity vo svojich prácach argumentuje, že jednou z mnohých príčin prečo ľudia prepadajú vplyvu dezinformácií, je tzv. motivované uvažovanie(ďalej len MU).

ČO HOVORí KOGNITÍVNA VEDA?

MU je slabina, s ktorou do určitej miery funguje každý ľudský mozog a naše kognitívne procesy v ňom. Sme v tom skrátka všetci spoločne, len miera ponoru v probléme je človek od človeka iná.

MU stojí a padá na emocionálnych predsudkoch. Teda na zdôvodneniach, ktoré sú pre našu psychiku najžiadanejšie, pretože priamo odrážajú naše emocionálne rozpoloženie. Často ním práve v prípade manipulácií bývajú jedny z najsilnejších emócií - hnev, strach, pohoršenie. Napríklad, keď sa dozvieme o nejakej tragickej udalosti, tak pre vlastný pokoj potrebujeme rýchlo poznať, kto bol vinník a následne si pre vlastný pokoj potrebujeme nájsť uspokojivú odpoveď, že bol vinník spravodlivo potrestaný. Ak sa toto upokojenie nedostavuje, tak naša myseľ zostáva v napätí a nepokoji. V takomto emočnom rozpoložení ľudský mozog často nedokáže racionálne myslieť. Vtedy sa každý z nás stáva ideálnou korisťou pre manipulátora.

Náš mozog vďaka MU počas týchto emocionálnych vzopnutí preferuje jednu emocionálnu rovinu myslenia, a odmieta, respektíve dáva na druhú koľaj, skutočnosti a vecné dôkazy, ktoré by nám pomohli vidieť, že skutočnosť je iná ako emocionálna manipulácia, s ktorou sa práve konfrontujeme. Mozog by sa totiž rýchlo dostal do disonancie. Naša racionalita by odporovala našemu emočnému prežívaniu. V hlave sa takýto mix prejavuje ako nepokoj.(a možno ťa bolí hlava už z týchto pár odstacov, sorry neuroveda je fuška)

Z tejto dizonancie sa rodí konflikt v našom mozgu a myslení. Človek v takomto stave nemá zväčša inú adaptačnú stratégiu, ako hľadať argumenty v prospech záverov, ktorým chceme veriť, že sú silnejšie ako argumenty pre závery, v ktoré veriť nechce. Povedané po lopate: vylezie z neho veta, nie je to pravda, ale mohla by byť. Príčin, prečo náš mozog koná takýmto spôsobom, je obrovské množstvo.

V PRAXI VĎAKA TOMU NAPRÍKLAD EXISTUJÚ ... SEKTY

Povedzme si trochu viac o jednom princípe, ktorý je napríklad prítomný u členov sekty. A aby sme to vedeli trochu lepšie pochopiť, tak si predstavte seba, že sa v takej sekte nachádzate.

Ako to už v sektách býva zvykom, všetci členovia nosia rovnaké oblečenie ako všetci ostatní členovia. (povedzme rovnakej tmavozelenej farby)

Uniformita ti dodáva pocit spolupatričnosti a naša evolúcia zabezpečila, že pre mnohých ľudí je potreba patriť a byť rešpektovaný v skupine mimoriadne dôležitá.(často tejto potrebe nadradia dôveru vo vlastný úsudok)

Pre vodcu sekty je táto uniformita taktiež výhodná. Potláča individualitu členov, eliminuje riziko odporu alebo vzbury a zabezpečuje existenciu sociálnej dynamiky, kde je každé jeho slovo prijímané ako nemenná a jediná pravda.

Predstav si, že tvoja sekta existuje na planéte Zem v roku 2020, kedy si celé ľudstvo prechádza pandémiou koronavírusu. Všetci okolo teba nosia rúška. Ty aj ostatní členovia ich začnete prirodzene používať tiež. Pre vodcu však postupne vzniká problém. Uniformita sekty je totiž narušená. Rúška nosia aj ľudia mimo sekty, ktorú vodca tak pracne vybudoval. Preto sa vodca sekty rozhodne zakročiť. Členov začne strašiť, že nosenie rúška im urobí zle. Napríklad si vymyslí, že maska vedie k vdýchovaniu CO2(tento nezmysel som vyvrátil tu - https://chs.kim/2 )

Z nosenia rúška sa čoskoro stane symbol hanby a členovia ju prestanú nosiť. Nosí ju len ostatná časť spoločnosti mimo sekty a tí sú pre teba a ostatných členov sekty nepodstatní a menejcenní. Vlastne to, že ty a členovia tvojej sekty rúška nenosíte vás ešte viac zomkne a utvrdí v tom, že vodca mal opäť pravdu a to len všetci okolo sú tí pomýlení, menejcenní alebo zlí.

Asi tiež nachádzaš paralely medzi tým, čo sa deje v dnešnom svete a týmto opisom sociálnej dynamiky sekty. Mnohí manipulátori si sú vedomí sily motivovaného uvažovania a aktívne ho používajú pri svojej toxickej činnosti. Aj preto sa často hovorí o tribalizme, o tom, že žijeme v novodobých kmeňoch, kde máme každý vlastnú realitu a veríme len tomu, čo je uprednostňovaná pravda v konkrétnych kruhoch. Je to výsledok skutočnosti, že človek je v prvom rade sociálny tvor.

A k tomu odkazuje aj tento opis. Členovia rôznych siekt totiž po racionálnej stránke vedia aj ďalej poznať, čo je rozumné a čo nie. Napríklad vedia, že nosenie masiek ich v dobe korony pomáha chrániť a je to zodpovedné aj voči druhým.

No ich emocionálne naviazanie na skupinu im nedovoľuje takéto rúška nosiť alebo ich nosiť správne. Riešením by pre nich mohli byť tieto rúška, ktoré mimikujú nesprávne nosenie masky, čo je v daných kruhoch vnímané, ako "chýtráctvo", čo môže byť paradoxne zdrojom ďalšieho rešpektu a sebapotvrdenia, ktoré od svojej skupiny podporujú viac, ako dobrý pocit svojho rácia, že konajú v súlade so svojim rozumom.

TAK ČO S TÝM?

Mnoho ľudí (nielen)pre dnešné nebezpečné nastavenie sociálnych sietí už do podobných siekt a tribalistického videnia sveta dávno spadlo. Bez vzájomnej empatie a snahy o úprimný dialóg, naplnený obojstranným rešpektom sa z tejto šlamastiky nedostaneme.

Preto je dobré pamätať, že hoci je na internete ťažké mať potrebnú trpezlivosť a rešpekt k ľuďom s uletenými alebo nebezpečnými názormi, budeme sa tomu musieť naučiť. Bez vybudovania dôvery a sprístupnenia sa pre druhú stranu cez porozumenie nebudeme mať nikdy šancu znovu vybudovať všetky tie mosty, ktoré naše nové technológie stihli zbúrať a zahatať.

A k tomu by nám mohli pomôcť komunikačné technológie, kde nebude mantrou maximalizácia získanej pozornosti globálneho publika, ale princíp zmysluplných spojení. O tom si môžete viac naštudovať od dizajnéra Tristana Harrisa, ktorý sa o svoje myšlienky podelil napríkald tu a už o dva dni si budete môcť na Netflixe pozrieť dokument The Social dilemma, kde bude Tristan odhaľovať nové poznatky z tejto oblasti, ako raz možno zosúladime ľudský mozog a dnešné komunikačné technológie.