📚 Nexus

Em poucas palavras

Yuval Noah Harari conta a história das redes de informação, da Idade da Pedra à inteligência artificial, para mostrar que informação não é sinônimo de verdade: ela serve sobretudo para conectar pessoas, e as redes sempre equilibraram verdade e ordem. O livro alerta para o risco de a IA, primeira tecnologia capaz de tomar decisões e criar ideias por conta própria, concentrar poder e corroer as democracias.

🎯 Resumo da Obra

Nos últimos 100.000 anos, acumulamos um poder imenso. No entanto, mesmo com todas as nossas descobertas e conquistas, estamos enfrentando uma crise sem precedentes, com um colapso ambiental iminente e a desinformação desenfreada. A chegada da era da Inteligência artificial também representa um perigo para nós. Afinal, por que somos tão autodestrutivos apesar de tudo o que alcançamos?

Nexus revisita nossa história e avalia como o fluxo de informação nos moldou e ao mundo em que vivemos. Em uma narrativa que se estende da Idade da Pedra à canonização da Bíblia, às primeiras caças às bruxas modernas, ao Stalinismo, ao Nazismo e ao ressurgimento do Populismo hoje, Yuval Noah Harari nos convida a examinar a complexa relação entre informação e verdade, burocracia e mitologia, sabedoria e poder. O autor explora como várias sociedades e sistemas políticos usaram a informação para atingir seus objetivos — para o bem e para o mal — bem como as escolhas que devemos fazer em um momento em que a inteligência não-humana ameaça nossa própria existência.

A informação não é a matéria-prima da verdade, nem é uma mera arma. Nexus explora o terreno intermediário esperançoso entre esses extremos e redescobre a humanidade que nos une.

🧠 Minha Experiência

“Nexus” mudou a forma como penso sobre a informação e seu poder. Ler o livro de Yuval Noah Harari, que aborda as redes de informação desde os tempos antigos até a IA moderna, foi uma experiência verdadeiramente esclarecedora. Eu já suspeitava que simplesmente ter mais informação não significa ter a informação certa ou estar mais perto da verdade (Noção ingênua da informação considera que ter mais informação resulta em mais verdade). Mas este livro me ajudou a entender a complexa relação entre verdade e ordem, e como os governos tentam gerenciar isso.

Agora estou mais ciente dos perigos do nosso mundo conectado. Coisas como a facilidade com que líderes populistas podem usar indevidamente a informação online, e os problemas éticos com a IA, estão muito mais claras para mim. A ideia de Harari de uma “Cortina de Silício” – um mundo dividido pela tecnologia – é um aviso sério. Este livro me fez sentir uma necessidade mais forte de que os países trabalhem juntos e criem regras éticas para a IA. Sinto uma responsabilidade pessoal em ajudar com isso, para que a tecnologia ajude as pessoas em vez de prejudicá-las. Este livro não foi apenas interessante de ler; ele me fez querer fazer algo.

📝 Notas de Conteúdo

🖍️ Destaques e Citações

Três ideias para levar

Ninguém contesta que, hoje, os seres humanos têm muito mais informação e poder do que na Idade da Pedra, mas é de duvidar que tenhamos uma compreensão muito melhor de nós mesmos e do nosso papel no universo.

Assim, ao contrário do poder industrial, o poder algorítmico do mundo pode ficar concentrado num único centro. Os engenheiros de um só país poderiam escrever o código e controlar as chaves para todos os algoritmos essenciais que comandam o mundo inteiro.

Por um lado, devemos ter cuidado com noções ingênuas e otimistas em excesso. Informação não é verdade. Sua tarefa principal não é representar, e sim conectar, e as redes de informação ao longo de toda a história frequentemente privilegiaram a ordem acima da verdade.

Yuval Noah Harari - Nexus (p. 37)

Chamamos nossa espécie de Homo sapiens — o humano sábio. Mas é discutível até que ponto temos feito jus ao nome.

Yuval Noah Harari - Nexus (p. 45)

Se nós, sapiens, somos tão sábios, por que somos tão autodestrutivos?

Meu comentário

Essa é uma pergunta bastante interesante de se fazer.

Yuval Noah Harari - Nexus (p. 48)

Apesar da espantosa quantidade de informação à nossa disposição, somos tão suscetíveis à fantasia e à ilusão quanto nossos ancestrais antigos.

Yuval Noah Harari - Nexus (p. 50)

Ninguém contesta que, hoje, os seres humanos têm muito mais informação e poder do que na Idade da Pedra, mas é de duvidar que tenhamos uma compreensão muito melhor de nós mesmos e do nosso papel no universo.

Meu comentário

Entendo que seria importante distinguir o conhecimento da humanidade do conhecimentl individual. Tecnologias sao facilmente aplicadas por indivduos sem que eles saibam como ela funcuona. Ja outros saberes nao.

Yuval Noah Harari - Nexus (p. 51)

Por que somos tão bons em acumular mais informação e poder, mas muito menos hábeis em adquirir sabedoria?

Yuval Noah Harari - Nexus (p. 66)

A lição para o aprendiz — e para a humanidade — é clara: nunca conjure poderes que não consegue controlar.

Meu comentário

Mas no geral é o que mais fazemos.

Yuval Noah Harari - Nexus (p. 76)

O poder sempre brota da cooperação entre muitas pessoas.

Yuval Noah Harari - Nexus (p. 81)

O principal argumento deste livro é que a humanidade obtém enorme poder construindo grandes redes de cooperação, mas essas redes são construídas de uma forma que predispõe os humanos a usarem o poder de modo pouco sábio. Nosso problema, então, é um problema de rede.

Meu comentário

A construcao de qualquer tipo de rede que é o problema?

Yuval Noah Harari - Nexus (p. 96)

Não devemos supor que as redes ilusórias estão fadadas ao fracasso. Se quisermos impedir que vençam, nós mesmos teremos de arregaçar as mangas.

Meu comentário

Precisamos fazer algo e não ficar parado.

Yuval Noah Harari - Nexus (p. 99)

“a noção ingênua de informação”.

Yuval Noah Harari - Nexus (p. 102)

A noção ingênua sustenta que, ao reunirem e processarem uma quantidade muito maior de informação do que os indivíduos conseguiriam, as grandes redes alcançam um melhor entendimento da medicina, da física, da economia e de vários outros campos, e com isso elas se tornam não só poderosas, como também sábias.

Yuval Noah Harari - Nexus (p. 117)

No entanto, a noção ingênua supõe que o antídoto para a maioria dos problemas que enfrentamos na coleta e no processamento da informação é coletar e processar quantidades ainda maiores de informação.

Yuval Noah Harari - Nexus (p. 121)

Segundo essa noção, quanto maior a rede de informação, mais próxima da verdade ela deve estar.

Yuval Noah Harari - Nexus (p. 124)

A sabedoria costuma ser entendida como “tomar decisões corretas”, mas o significado de “corretas” depende de juízos de valor que variam entre diferentes pessoas, culturas ou ideologias.

Yuval Noah Harari - Nexus (p. 128)

A noção ingênua pensa que as divergências sobre os valores se revelam, a um exame mais detido, decorrentes da falta de informação ou da desinformação deliberada.

Yuval Noah Harari - Nexus (p. 135)

Com informação e tempo suficiente, iremos inevitavelmente descobrir a verdade sobre coisas que vão de infecções virais a preconceitos racistas, assim desenvolvendo não só nosso poder, mas também a sabedoria necessária para fazer um bom uso desse poder.

Meu comentário

Essa é basicamente a visão ingenua da informação..

Yuval Noah Harari - Nexus (p. 158)

Talvez a formulação mais sucinta da noção ingênua da informação se encontre na declaração do Google, afirmando que sua missão é “organizar a informação do mundo e torná-la universalmente acessível e útil”.

Meu comentário

O que me parece que nao e o principal quando a necessidade de crescimento constante e foco em lucro entram em cena.

Yuval Noah Harari - Nexus (p. 185)

Em gerações recentes, a humanidade tem visto o maior aumento de todos os tempos tanto na quantidade quanto na velocidade de nossa produção de informação.

Yuval Noah Harari - Nexus (p. 194)

Uma quantidade ainda maior de informação melhoraria ou pioraria as coisas? Logo saberemos.

Meu comentário

A ia generatfiva pode trazer essa resposta.

Yuval Noah Harari - Nexus (p. 219)

Primeiro, o poder da ia poderia superalimentar conflitos humanos existentes, dividindo a humanidade contra si mesma.

Yuval Noah Harari - Nexus (p. 223)

Segundo, a Cortina de Silício poderia criar uma divisão não entre grupos humanos, mas entre todos os seres humanos e nossos novos senhores da ia.

Yuval Noah Harari - Nexus (p. 231)

ia, devemos ter em mente que ela é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por si mesma.

Meu comentário

Bom. Nao exatamente. Mas nesmo assim o impacto e bastante preocupante.

Yuval Noah Harari - Nexus (p. 234)

A ia, por sua vez, pode processar sozinha a informação e, portanto, substituir os seres humanos em tomadas de decisão. A ia não é uma ferramenta — é um agente.

Yuval Noah Harari - Nexus (p. 241)

os computadores já tomam decisões a nosso respeito

Meu comentário

J
sim, mas para isso alguem tem que direcionar o aprendixado, portanto alguem pode ser responsavel pela decisao de uma maquina.

Yuval Noah Harari - Nexus (p. 247)

O livro argumentava que o verdadeiro protagonista da história sempre foi a informação, e não o Homo sapiens, e que os cientistas cada vez mais entendem não só a história, mas também a biologia, a política e a economia em termos de fluxos de informação.

Meu comentário

Sobre o hono deus.

Yuval Noah Harari - Nexus (p. 258)

Líderes populistas como Donald Trump e Jair Bolsonaro, movimentos populistas e teorias da conspiração como qanon e os antivacina sustentam que todas as instituições tradicionais que ganham autoridade dizendo reunir informação e descobrir a verdade estão simplesmente mentindo.

Yuval Noah Harari - Nexus (p. 265)

Em síntese, o populismo vê a informação como uma arma.

Yuval Noah Harari - Nexus (p. 267)

Em suas versões mais radicais, o populismo postula que não existem verdades objetivas e que cada um tem “sua própria verdade”, que brande para derrotar os rivais.

Yuval Noah Harari - Nexus (p. 283)

Karl Marx, que afirmava, em meados do século xix, que o poder é a única realidade, que a informação é uma arma e que as elites que dizem estar servindo à verdade e à justiça estão, de fato, defendendo estreitos privilégios de classe.

Yuval Noah Harari - Nexus (p. 288)

Essa interpretação binária da história tem implícito que toda interação humana é uma luta de poder entre opressores e oprimidos. Assim, sempre que alguém diz alguma coisa, a pergunta a fazer não é “O que está sendo dito? É verdade?”, mas, sim, “Quem está dizendo isso? Aos privilégios de quem isso serve?”.

Meu comentário

Isso indica que despersonificar o conhecimento e os fatos seria fundamental?

Yuval Noah Harari - Nexus (p. 296)

central do populismo, que o cientista político Cas Mudde descreve como uma “ideologia que considera a sociedade separada, em última análise, em dois grupos homogêneos e antagônicos, ‘o povo puro’ versus ‘a elite corrupta’”.

Yuval Noah Harari - Nexus (p. 314)

Confiar apenas em “minha própria pesquisa” pode parecer algo muito científico, mas, na prática, consiste em crer que não existe uma verdade objetiva.

Meu comentário

A busca de conhecimneto de formma solitaria é quase impossivel.

Yuval Noah Harari - Nexus (p. 326)

Enquanto os políticos comuns mentem ao povo para ganhar poder, o líder carismático é o porta-voz infalível do povo, que desmascara todas as mentiras.

Meu comentário

Essa é uma visao boa do populismo mistico/religioso.

Yuval Noah Harari - Nexus (p. 336)

Se não quisermos entregar o poder a um líder carismático ou a uma inescrutável ia, primeiro precisamos obter um entendimento melhor do que é a informação, como ela ajuda a construir redes humanas e como se relaciona com a verdade e o poder.

Meu comentário

Este parece ser um ponto importante desta obra.

Yuval Noah Harari - Nexus (p. 339)

A informação não é a matéria-prima da verdade, tampouco uma mera arma. Há entre esses dois extremos espaço suficiente para uma visão mais nuançada e esperançosa das redes humanas de informação e de nossa capacidade de utilizar o poder com sabedoria.

Yuval Noah Harari - Nexus (p. 367)

A história não é o estudo do passado; é o estudo da mudança. A história nos ensina o que permanece igual, o que muda e como as coisas mudam.

Yuval Noah Harari - Nexus (p. 387)

chips de silício podem criar espiões que nunca dormem, financistas que nunca esquecem e déspotas que nunca morrem.

Meu comentário

E tudo isso pode ser um problema bdm maior do que imaginamos.

Yuval Noah Harari - Nexus (p. 433)

A informação, porém, não precisa consistir em símbolos criados pelos seres humanos.

Yuval Noah Harari - Nexus (p. 436)

Objetos até mais distantes do que um arco-íris também podem ser informação.

Yuval Noah Harari - Nexus (p. 443)

Qualquer objeto pode ser informação — ou não. Isso dificulta definir o que é informação.

Yuval Noah Harari - Nexus (p. 463)

Assim, evidentemente a informação não pode ser definida como tipos específicos de objetos materiais.

Yuval Noah Harari - Nexus (p. 465)

A noção ingênua de informação afirma que os objetos são definidos como informação no contexto da busca da verdade.

Yuval Noah Harari - Nexus (p. 473)

noção ingênua sustenta que a informação é uma tentativa de representar a realidade, e quando essa tentativa dá certo a chamamos de verdade.

Yuval Noah Harari - Nexus (p. 476)

A maior parte da informação na sociedade humana e, de fato, em outros sistemas físicos e biológicos não representa coisa alguma.

Meu comentário

Ta ai uma frase cyriosa? Como algo pode ser usado para não representar coisa alguma?

Yuval Noah Harari - Nexus (p. 479)

Ao longo deste livro, entende-se como “verdade” algo que representa com precisão certos aspectos da realidade.

Yuval Noah Harari - Nexus (p. 483)

Qualquer pessoa que rejeite o universalismo rejeita a verdade.

Yuval Noah Harari - Nexus (p. 484)

A verdade e a realidade, apesar disso, são coisas diferentes, porque, por mais verdadeira que seja uma explicação, ela nunca consegue representar a realidade em todos os seus aspectos.

Yuval Noah Harari - Nexus (p. 496)

Outro problema com qualquer tentativa de representar a realidade é que a realidade contém muitos pontos de vista.

Yuval Noah Harari - Nexus (p. 500)

A realidade inclui um nível objetivo com fatos objetivos que não dependem das crenças das pessoas;

Yuval Noah Harari - Nexus (p. 502)

A realidade também inclui um nível subjetivo com fatos subjetivos como as crenças e os sentimentos de várias pessoas, mas, também nesse caso, é possível separar fatos e erros.

Yuval Noah Harari - Nexus (p. 515)

Em última análise, cada indivíduo tem uma perspectiva diferente sobre o mundo, moldada pelo cruzamento de diversas personalidades e histórias de vida.

Yuval Noah Harari - Nexus (p. 524)

Um mapa 1:1 pode parecer a representação suprema da realidade, mas, significativamente, ele não é mais uma representação, de forma alguma; ele é a realidade.

Meu comentário

É impossivel representar a realidade pois ela ja e a realidade em si.

Yuval Noah Harari - Nexus (p. 527)

A verdade, então, não é uma representação 1:1 da realidade. A verdade é algo que traz nossa atenção para certos aspectos da realidade, inevitavelmente ignorando outros. Nenhuma apresentação da realidade é 100% precisa, mas, mesmo assim, algumas são mais verídicas do que outras.

Meu comentário

Na verdade, o mas correro seria dizer wue algumas sao menoks erradkas do que outras.

Yuval Noah Harari - Nexus (p. 531)

A informação errônea é um erro honesto, que ocorre quando algo tenta representar a realidade, mas a compreende errado.

Yuval Noah Harari - Nexus (p. 532)

A desinformação é uma mentira deliberada, que se dá quando alguém tem a intenção consciente de distorcer nossa visão da realidade.

Yuval Noah Harari - Nexus (p. 533)

Além disso, a noção ingênua crê que a solução para os problemas causados pela informação errônea e pela desinformação é mais informação. Essa ideia, às vezes chamada de “doutrina do contradiscurso”, está associada ao juiz Louis D. Brandeis,

Yuval Noah Harari - Nexus (p. 554)

Uma teoria da informação que não consiga explicar a importância histórica da astrologia é inadequada.

Meu comentário

Ate agora eu nao sei qual e a definicao de informacao do autor.

Yuval Noah Harari - Nexus (p. 558)

Seu traço definidor é mais a conexão do que a representação, e informação é tudo o que conecta pontos diferentes dentro de uma rede.

Meu comentário

Seja a rede wue for?!

Yuval Noah Harari - Nexus (p. 559)

A informação não necessariamente nos informa sobre as coisas. Em vez disso, ela põe as coisas em formação.

Yuval Noah Harari - Nexus (p. 586)

Isso vale para países, partidos políticos e redes de notícias, tanto quanto para zebras. Sua existência também é ameaçada pela perda de contato entre as partes constituintes mais do que por representações imprecisas da realidade.

Yuval Noah Harari - Nexus (p. 591)

A informação é algo que cria novas realidades conectando diferentes pontos de uma rede.

Yuval Noah Harari - Nexus (p. 601)

Às vezes, as redes podem ser conectadas sem nenhuma tentativa de representação, correta ou errônea, da realidade,

Meu comentário

Informacao pode ou bao ser usada para representar a realidade com mais ou mebos precisao.

Yuval Noah Harari - Nexus (p. 637)

Para concluir, a informação às vezes representa e às vezes não representa a realidade. Mas sempre conecta. Essa é sua característica fundamental.

Yuval Noah Harari - Nexus (p. 640)

Rejeitar a noção ingênua da informação como representação não nos obriga a rejeitar a noção de verdade, nem nos obriga a adotar a visão populista da informação como arma.

Yuval Noah Harari - Nexus (p. 645)

Se mais passos não forem dados para inclinar a balança em favor da verdade, o aumento na quantidade e na velocidade da informação provavelmente afogará as versões relativamente raras e caras com tipos muito mais comuns e baratos de informação.

Meu comentário

Muita ibformacao ruim prejudica a pouxa informacao de qualidade

Yuval Noah Harari - Nexus (p. 655)

Veremos como, ao longo de dezenas de milhares de anos, os seres humanos inventaram várias tecnologias da informação que melhoraram bastante a conectividade e a cooperação, sem resultar necessariamente numa representação mais verídica do mundo.

Meu comentário

Esse e um ponto interessante

Yuval Noah Harari - Nexus (p. 662)

A habilidade dos sapiens em cooperar flexivelmente em grandes números tem precursores entre outros animais.

Yuval Noah Harari - Nexus (p. 678)

O que permitiu a cooperação entre bandos diferentes foi que mudanças evolucionárias na estrutura do cérebro e nas capacidades linguísticas parecem ter dado aos sapiens a habilidade de contar e acreditar em estórias ficcionais, e de ser profundamente tocados por elas.

Yuval Noah Harari - Nexus (p. 690)

Em vez disso, a conexão deles é com uma estória muito bem elaborada sobre o líder, e é nessa estória que eles acreditam.

Meu comentário

Deve ser por isso que cntrolar bem essas estorias dd forma a fazer com que se espalh e cada vez mis importante.

Yuval Noah Harari - Nexus (p. 699)

Uma “marca” é um tipo específico de estória. Dar marca a um produto significa contar uma estória sobre esse produto, que pode ter pouco a ver com suas qualidades efetivas, mas que mesmo assim os consumidores aprendem a associar àquele produto.

Yuval Noah Harari - Nexus (p. 708)

As pessoas pensam que se conectam com aquele indivíduo, mas de fato se conectam com a estória contada sobre ele, e muitas vezes há uma enorme distância entre ambos.

Yuval Noah Harari - Nexus (p. 737)

Ainda que as campanhas de marca, de vez em quando, constituam uma prática cínica de desinformação, as estórias realmente grandes da história são, em sua maioria, resultado de projeções emocionais e pensamentos otimistas fantasiosos.

Yuval Noah Harari - Nexus (p. 746)

A família é o vínculo mais forte que os seres humanos conhecem.

Meu comentário

A familia e a peincipal e primeira grande fonte de estorias.

Yuval Noah Harari - Nexus (p. 764)

Como mostram numerosos estudos modernos, recontar repetidamente uma lembrança falsa acaba por levar a pessoa a adotá-la como recordação genuína.

Yuval Noah Harari - Nexus (p. 773)

Os dois níveis de realidade que antecederam a narração de estórias são a realidade objetiva e a realidade subjetiva.

Yuval Noah Harari - Nexus (p. 774)

A realidade objetiva consiste em coisas como pedras, montanhas e asteroides — coisas que existem, quer tenhamos consciência delas ou não.

Yuval Noah Harari - Nexus (p. 776)

E há a realidade subjetiva: coisas como dor, prazer e amor que não estão “lá fora”, e sim “aqui dentro”. As coisas subjetivas existem em nossa percepção delas.

Yuval Noah Harari - Nexus (p. 778)

a realidade intersubjetiva. Enquanto coisas subjetivas como a dor existem numa única mente, coisas intersubjetivas como leis, deuses, nações, empresas e moedas existem no nexo entre grande número de mentes. Sendo mais exato, elas existem nas estórias que as pessoas contam umas às outras.

Yuval Noah Harari - Nexus (p. 784)

As coisas intersubjetivas existem na troca de informação.

Yuval Noah Harari - Nexus (p. 819)

Entre todos os gêneros de estórias, os que criam realidades intersubjetivas são os mais importantes para o desenvolvimento de redes humanas de grande escala.

Yuval Noah Harari - Nexus (p. 847)

Se nossa identidade tribal em comum for sólida o suficiente, eles poderão nos acolher e nos instruir sobre os perigos e as oportunidades locais. Dez ou vinte anos depois, poderemos retribuir.

Meu comentário

Entidades conectadas por estorias tem forca para manutencao em tempos de crise.

Yuval Noah Harari - Nexus (p. 857)

Segundo as teorias marxistas, as pessoas são sempre movidas por interesses materiais objetivos e usam as estórias apenas para camuflar esses interesses e confundir os rivais.

Yuval Noah Harari - Nexus (p. 864)

Além disso, os interesses materialistas por si só não explicam as identidades dos campos rivais.

Meu comentário

Existe nao apenas relacoes de poder mas tambem identitarias.

Yuval Noah Harari - Nexus (p. 869)

Todas as relações entre grupos humanos de grande escala são, com efeito, moldadas por estórias, porque a própria identidade desses grupos é definida por estórias.

Yuval Noah Harari - Nexus (p. 877)

Essa é uma boa notícia. Se a história fosse moldada apenas por lutas de poder e interesses materiais, não faria sentido conversar com as pessoas que discordam de nós.

Meu comentário

Entretanrto, sendo moldadas pode-se alterar tais estorias ou criar novas.

Yuval Noah Harari - Nexus (p. 894)

noção ingênua da informação diz que a informação leva à verdade e que saber a verdade ajuda as pessoas a obter poder e sabedoria. Isso parece tranquilizante. Implica ser improvável que as pessoas que fecham os olhos à verdade tenham muito poder, ao passo que as pessoas que respeitam a verdade podem ganhar muito poder, mas que o poder seria moderado pela sabedoria.

Yuval Noah Harari - Nexus (p. 902)

Na história, apenas em parte o poder brota do conhecimento da verdade. Brota também da capacidade de manter a ordem social entre um grande número de pessoas.

Yuval Noah Harari - Nexus (p. 910)

O mesmo se passa com todos os projetos ambiciosos empreendidos por seres humanos.

Meu comentário

É sempre preciso de muita gente para alavancar grandes projetos.

Yuval Noah Harari - Nexus (p. 917)

Uma ideologia construída sem levar em conta os fatos, no entanto, ainda pode se revelar explosiva.

Yuval Noah Harari - Nexus (p. 921)

O que as pessoas no comando sabem e os físicos nucleares nem sempre entendem é que dizer a verdade sobre o universo dificilmente é o modo mais eficaz de implantar ordem entre grandes números de seres humanos.

Yuval Noah Harari - Nexus (p. 925)

O que mantém unidas as redes humanas costumam ser estórias ficcionais, em especial estórias sobre coisas intersubjetivas como divindades, dinheiro e nações.

Yuval Noah Harari - Nexus (p. 926)

Quando se trata de unir as pessoas, a ficção tem duas vantagens intrínsecas sobre a verdade.

Yuval Noah Harari - Nexus (p. 927)

Primeiro, a ficção pode ser tão simples quanto quisermos, ao passo que a verdade tende a ser complicada, porque a realidade que ela pretende representar é complicada.

Yuval Noah Harari - Nexus (p. 931)

Segundo, a verdade, muitas vezes, é incômoda e dolorosa, e se tentarmos abrandá-la e adoçá-la, ela deixará de ser verdade. A ficção, por outro lado, é maleável.

Yuval Noah Harari - Nexus (p. 937)

A inabalável adesão à verdade é essencial para o avanço científico e é também uma prática espiritual admirável, mas não uma estratégia política promissora.

Yuval Noah Harari - Nexus (p. 946)

Contar uma estória ficcional só é mentir quando você finge que a estória é uma representação verídica da realidade.

Yuval Noah Harari - Nexus (p. 947)

Se você evita fingir e reconhece que está tentando criar uma nova realidade intersubjetiva, em vez de representar uma realidade objetiva preexistente, então contar uma estória ficcional não é o mesmo que mentir.

Yuval Noah Harari - Nexus (p. 972)

Todos os sistemas políticos humanos se baseiam em ficções, mas alguns o admitem e outros não. Ser veraz sobre as origens de nossa ordem social facilita efetuar mudanças nela.

Meu comentário

As vezes é preciso deixar claro que tudo é ums ficção

Yuval Noah Harari - Nexus (p. 982)

Na contramão da noção ingênua, a informação não é a matéria-prima da verdade, e as redes de informação humanas não são montadas só para descobrir a verdade. Mas, ao contrário da visão populista, a informação também não é apenas uma arma.

Yuval Noah Harari - Nexus (p. 984)

Para sobreviver e prosperar, toda rede de informação humana precisa fazer duas coisas ao mesmo tempo: descobrir a verdade e criar ordem.

Yuval Noah Harari - Nexus (p. 986)

De um lado, como espera a noção ingênua, as redes aprenderam a processar informação para obter um entendimento mais preciso de coisas como a medicina, os mamutes e a física nuclear. Ao mesmo tempo, as redes também aprenderam a usar a informação para manter uma ordem social mais forte entre populações maiores, usando não só versões verídicas, como também ficções, fantasias, propaganda e — de vez em quando — mentiras deslavadas.

Meu comentário

As redes de informação podem ser usadas de forma objetiva pu intersubjetiva, psra descobrir a verdade do mundo ou para defini-la.

Yuval Noah Harari - Nexus (p. 991)

Ter muita informação não garante em si e por si a verdade e a ordem. É um processo difícil usar a informação para descobrir a verdade e, ao mesmo tempo, usá-la para manter a ordem. Para piorar as coisas, esses dois processos são muitas vezes contraditórios, porque é mais fácil manter a ordem por meio de ficções.

Yuval Noah Harari - Nexus (p. 997)

O que acontece quando o mesmo bit de informação revela um fato importante sobre o mundo, mas também fragiliza a nobre mentira que mantém a sociedade unida? Em casos assim, a sociedade pode tentar preservar a ordem impondo limites à busca da verdade.

Meu comentário

Informações ,em especial as cientificas, acabam sempre desafiando a nossa visao de mundo.

Yuval Noah Harari - Nexus (p. 1011)

Se uma rede privilegia a ordem em detrimento da verdade, ela pode se tornar muito poderosa, mas usar esse poder de modo insensato.

Yuval Noah Harari - Nexus (p. 1013)

Em vez de uma marcha do progresso, a história das redes humanas de informação é um funambulismo tentando equilibrar verdade e ordem.

Yuval Noah Harari - Nexus (p. 1064)

Mas sonhos, canções e fantasias, por inspiradores que sejam, não bastam para criar um Estado nacional operante.

Yuval Noah Harari - Nexus (p. 1065)

porém, para equipar e manter um exército, também é necessário aumentar os impostos e comprar armas.

Meu comentário

É preciso mais do qhe estorias, e preciso ter ações

Yuval Noah Harari - Nexus (p. 1067)

Em suma, a essência do patriotismo não consiste em declamar poemas arrebatadores sobre a beleza da terra natal, tampouco em fazer discursos repletos de ódio contra estrangeiros e minorias. O patriotismo significa pagar impostos para que as pessoas no outro extremo do país também gozem dos benefícios de um sistema de esgoto, de segurança, educação e assistência à saúde.

Yuval Noah Harari - Nexus (p. 1075)

As listas são fundamentais não só para os sistemas tributários nacionais, como também para quase todas as outras instituições financeiras complexas.

Meu comentário

Listas, tabelas, dados.

Yuval Noah Harari - Nexus (p. 1078)

Listas e estórias são complementares. Os mitos nacionais legitimam os registros tributários, enquanto os registros tributários ajudam a transformar estórias repletas de aspirações em escolas e hospitais de verdade.

Yuval Noah Harari - Nexus (p. 1084)

O grande problema delas — e a diferença crucial entre listas e estórias — é que as listas são mais tediosas do que as estórias, o que significa que temos facilidade em lembrar estórias, mas dificuldade em lembrar listas.

Yuval Noah Harari - Nexus (p. 1097)

Estamos tão acostumados a tais proezas da memória que não avaliamos com frequência quão extraordinárias elas são.

Meu comentário

A capacidade que temos de lembrar de series, filmes, livros e etc é bem majpr do que de lembrar de numeros e itens. Essa capacidade e fantastica.

Yuval Noah Harari - Nexus (p. 1121)

Assim como as estórias e como todas as outras tecnologias da informação na história, os documentos escritos não representavam necessariamente a realidade com precisão.

Yuval Noah Harari - Nexus (p. 1132)

A capacidade dos computadores de criar realidades intersubjetivas é uma extensão do poder das tabuinhas de argila e folhas de papel.

Meu comentário

Nesse sentido os computadores sao extensoes das historias gravadas.

Yuval Noah Harari - Nexus (p. 1147)

A propriedade continua a ser uma realidade intersubjetiva criada pela troca de informação, mas a informação agora assume a forma de um documento escrito (ou de um arquivo de computador), em vez de gestos e palavras trocadas entre as pessoas.

Yuval Noah Harari - Nexus (p. 1159)

Ao redigirem constituições, tratados de paz e contratos comerciais, advogados, políticos e homens de negócios passam semanas e até meses se debatendo sobre cada palavra — pois sabem que esses pedaços de papel podem exercer um enorme poder.

Meu comentário

A escrita e muito fundamental.

Yuval Noah Harari - Nexus (p. 1169)

Os documentos escritos eram muito melhores do que o cérebro humano para registrar certos tipos de informação. Mas criavam um novo problema, muito espinhoso: a recuperação.

Yuval Noah Harari - Nexus (p. 1190)

À diferença dos forrageadores, que precisam apenas descobrir a ordem preexistente da floresta, os arquivistas precisam conceber uma nova ordem para o mundo. Essa ordem se chama burocracia.

Yuval Noah Harari - Nexus (p. 1204)

Esse princípio, porém, tem um custo. Em vez de se concentrar em entender o mundo como ele é, a burocracia, muitas vezes, se ocupa em impor uma ordem nova e artificial ao mundo.

Yuval Noah Harari - Nexus (p. 1215)

O ideal é que houvesse alguém capaz de levar em conta toda a diversidade de aspectos e considerações, mas tal abordagem holística exige que se supere ou se elimine a divisão burocrática.

Meu comentário

Isso é basicamente utopico

Yuval Noah Harari - Nexus (p. 1226)

mas a burocracia acadêmica não incentiva essa abordagem holística.

Meu comentário

Colocar as coisas em caixinhas nem sempre e uma boa ideia.

Yuval Noah Harari - Nexus (p. 1248)

E “espécie” é uma realidade objetiva descoberta pelos biólogos ou uma realidade intersubjetiva imposta por eles?

Meu comentário

Essa e a boa pergunta sobre a ciencia como um todo.

Yuval Noah Harari - Nexus (p. 1267)

Mesmo que os biólogos cheguem a um consenso de que os vírus são formas de vida, isso não implicaria nenhuma mudança no comportamento dos vírus; mudaria apenas a maneira como são entendidos pelos seres humanos.

Meu comentário

Esse é o poder de entender o que ou nao realidade.

Yuval Noah Harari - Nexus (p. 1314)

A mitologia e a burocracia são os pilares gêmeos de todas as sociedades de grande escala. Mas, enquanto a mitologia tende a despertar fascínio, a burocracia tende a despertar suspeita.

Yuval Noah Harari - Nexus (p. 1317)

Pois todas as burocracias — boas ou más — têm em comum uma característica fundamental: elas são de difícil entendimento para as pessoas.

Meu comentário

Isso e algo notavel em sistemas publicos por exemplo

Yuval Noah Harari - Nexus (p. 1336)

Olhando por outra perspectiva, o que vemos são documentos levando seres humanos a se envolverem com outros documentos.

Yuval Noah Harari - Nexus (p. 1344)

A dificuldade de entender o poder burocrático tornou, ao mesmo tempo, mais difícil que as massas pudessem influir, resistir ou escapar à autoridade central.

Meu comentário

Quem controla os documentos e as certificacoes tambem controla o poder.

Yuval Noah Harari - Nexus (p. 1356)

Todos os filhotes de mamíferos e aves dependem dos genitores na primeira fase da vida, procuram o cuidado parental e temem a negligência ou a hostilidade parental.

Yuval Noah Harari - Nexus (p. 1382)

Nos mitos nacionalistas e religiosos, os países ou as Igrejas são apresentados como um corpo biológico em risco de ser contaminado por atravessadores intrusos. Há séculos os fanáticos dizem frequentemente que as minorias étnicas e religiosas espalham doenças,39 que as pessoas lgbt são fonte de contaminação40 ou que as mulheres são impuras.

Yuval Noah Harari - Nexus (p. 1416)

Nas sociedades burocráticas, muitas vezes as pessoas comuns têm sua vida virada de ponta-cabeça por funcionários não identificados de uma agência insondável por razões incompreensíveis.

Yuval Noah Harari - Nexus (p. 1460)

Matar os documentos anulava as dívidas.

Meu comentário

Registros no papel são,por vezes, a unica confirmacao de algo. Ao iliminar tar registro perde-se a legitimidade.

Yuval Noah Harari - Nexus (p. 1512)

Você nunca sabia qual desses documentos poderia algum dia lhe salvar a vida.

Meu comentário

E pensar que isso é mais comum do que imainamos.

Yuval Noah Harari - Nexus (p. 1515)

Todas as redes de informação poderosas podem fazer o bem e o mal, dependendo da concepção e da forma como são usadas. O mero aumento da quantidade de informação numa rede não garante seu caráter benigno nem contribui em nada para encontrar o equilíbrio correto entre verdade e ordem.

Yuval Noah Harari - Nexus (p. 1525)

A burocracia e a mitologia são ambas fundamentais para manter a ordem, e ambas se dispõem de bom grado a sacrificar a verdade em favor da ordem.

Yuval Noah Harari - Nexus (p. 1542)

Para que funcionem, os mecanismos de autocorreção precisam de legitimidade.

Yuval Noah Harari - Nexus (p. 1549)

Em nossa vida pessoal, a religião pode desempenhar funções diversas, como oferecer consolo ou explicar os mistérios da vida. Mas, historicamente, a função mais importante dela é a de fornecer legitimidade sobre-humana à ordem social.

Meu comentário

Entidades sobre-humanas so podem fazer regras infalíveis

Yuval Noah Harari - Nexus (p. 1572)

A menos que você tenha tido uma revelação divina pessoal, saber o que diziam os deuses significava confiar no que seres humanos falíveis como Tanotka e Baninge alegavam ser palavras dos deuses.

Meu comentário

Como saber que tivemos uma experiencia dessa?

Yuval Noah Harari - Nexus (p. 1598)

Livros sagrados como a Bíblia e o Alcorão são uma tecnologia para contornar a falibilidade humana, e em torno desse artefato tecnológico construíram-se religiões do livro, como o judaísmo, o cristianismo e o islamismo.

Yuval Noah Harari - Nexus (p. 1601)

Um livro é um bloco fixo de textos — como capítulos, estórias, receitas ou epístolas — que sempre estão juntos e têm muitas cópias iguais.

Meu comentário

As principais caracferisticas sao ser um documento longo colm varios capitulos e wue todps os livros sao iguais. Isso e bem diferente de documentos e estorias orais.

Yuval Noah Harari - Nexus (p. 1607)

O livro, com isso, assegura que muitas pessoas

Yuval Noah Harari - Nexus (p. 1614)

Mas as religiões do livro tinham seu próprio leque de problemas. O mais óbvio é: quem decide o que incluir no livro sagrado?

Meu comentário

com base nIsso podemos pensar quem decide quem deve verificar o conteudo de um livro? Issp abre um leque de opcoes bem grande.

Yuval Noah Harari - Nexus (p. 1674)

Ao que parece, não foram excluídos deliberadamente; apenas se extraviaram.

Meu comentário

A decisão do que faz ou nao parte da biblia é bem mais complexa do que se imagina.

Yuval Noah Harari - Nexus (p. 1691)

Com muitas Bíblias disponíveis em locações distantes, os judeus substituíram o despotismo humano pela soberania divina. Agora a ordem social era assegurada pela infalível tecnologia do livro. Ou assim parecia.

Yuval Noah Harari - Nexus (p. 1705)

e não havia duas Bíblias antigas que fossem idênticas.

Meu comentário

Mesmo com regras rigidas as copias ainda apredentam erros.

Yuval Noah Harari - Nexus (p. 1707)

Um segundo problema, e maior, se referia à interpretação. Mesmo quando as pessoas concordam sobre a santidade de um livro e sua exata redação, elas ainda podem interpretar as mesmas palavras de modos diferentes.

Yuval Noah Harari - Nexus (p. 1721)

Um magnata naval judeu morando em Alexandria iria achar que muitas das leis bíblicas não se aplicavam à sua vida, e muitas de suas perguntas prementes não encontravam resposta clara no texto sagrado.

Meu comentário

O mubdo continua e textps eststicos nao sao capazes de se adaptar a nao ser que novas estprias sejam contadas.

Yuval Noah Harari - Nexus (p. 1730)

A tentativa de contornar as instituições humanas falíveis baseando-se numa nova tecnologia da informação deu errado por causa da necessidade de uma instituição humana para interpretar o livro sagrado.

Yuval Noah Harari - Nexus (p. 1744)

O sonho de contornar as instituições humanas falíveis por meio da tecnologia do livro sagrado nunca se concretizou. A cada vez o poder da instituição rabínica aumentava. “Confie no livro infalível” se transformou em “confie nos seres humanos que interpretam o livro”.

Meu comentário

Talvez isso venha a acpntecer com a viblia catolica e tamvem as posicoes evangelicas

Yuval Noah Harari - Nexus (p. 1765)

Essa mudança foi extremamente surpreendente, visto que não se encontra quase em lugar nenhum da Bíblia alguém discutindo a interpretação de algum texto.

Meu comentário

Realmenre a discussao nao e algo predente no que me lembrp da biblia

Yuval Noah Harari - Nexus (p. 1785)

Na vida cotidiana, essa visão significava que, para os rabinos, as palavras nos textos eram com frequência mais importantes do que os fatos no mundo. Ou, mais precisamente, as palavras presentes em textos sagrados se tornaram alguns dos fatos mais importantes referentes ao mundo, moldando a vida de indivíduos e comunidades inteiras.

Yuval Noah Harari - Nexus (p. 1788)

A descrição acima da canonização da Bíblia e da criação da Mishná e do Talmude não menciona um fato muito importante. O processo de canonização da palavra de Jeová criou não uma cadeia de textos, mas várias cadeias concorrentes. Havia quem acreditasse em Jeová, mas não nos rabinos. A maioria desses dissidentes aceitava o primeiro bloco na cadeia bíblica — a que eles davam o nome de Antigo Testamento. Mas mesmo antes que os rabinos selassem esse bloco, os dissidentes rejeitavam a autoridade de toda a instituição rabínica, o que os levou depois a rejeitarem também a Mishná e o Talmude. Esses dissidentes eram os cristãos.

Meu comentário

Entao essa e a divisao entre o cristianismo e o judaismo?

Yuval Noah Harari - Nexus (p. 1820)

Mais ou menos na mesma época em que os debates entre rabinos judeus produziam a Mishná e o Talmude, os debates entre padres, bispos e teólogos cristãos produziam o Novo Testamento.

Yuval Noah Harari - Nexus (p. 1828)

Quando os cristãos dizem “a Bíblia”, eles se referem ao Antigo Testamento e ao Novo Testamento em conjunto. Os judeus, em contraste, nunca aceitaram o Novo Testamento e, quando dizem “a Bíblia”, se referem apenas ao Antigo Testamento, que é suplementado pela Mishná e pelo Talmude.

Yuval Noah Harari - Nexus (p. 1875)

Assim como a maioria dos judeus esqueceu que o Antigo Testamento teve a curadoria de rabinos, da mesma forma a maioria dos cristãos esqueceu que o Novo Testamento teve a curadoria de concílios da Igreja e passou a vê-lo como a palavra infalível de Deus.

Meu comentário

Eu nao diria que esqueceram mas sim que faz parrte da definicao do grupo.

Yuval Noah Harari - Nexus (p. 1881)

A tentativa de investir toda a autoridade numa tecnologia sobre-humana infalível levou ao surgimento de uma nova instituição humana, extremamente poderosa — a Igreja.

Yuval Noah Harari - Nexus (p. 1895)

A teologia católica aceitava que Jesus nos falou para amarmos nossos inimigos, mas explicava que queimar os hereges era um ato de amor, pois impedia que outras pessoas adotassem visões heréticas, assim as salvando das chamas do inferno.

Meu comentário

Essa parece ser uma base para as cruzadas

Yuval Noah Harari - Nexus (p. 1913)

Um decreto da Universidade de Oxford em 1409 estipulava que “todos os textos recentes” estudados na universidade deviam ter a aprovação unânime “de um grupo de doze teólogos indicados pelo arcebispo”.63

Meu comentário

Olha que coisa curiosa, grandes universidades nascem de berco religioso.

Yuval Noah Harari - Nexus (p. 1920)

Especialistas da informação católica, como Jacques Fournier, passavam os dias lendo a interpretação de Tomás de Aquino da interpretação de Agostinho da interpretação das epístolas de Paulo e compondo suas próprias interpretações adicionais.

Meu comentário

No fim um estudioso estudava outro de forma indireta. Sera que hoje isso e muito diferebte?

Yuval Noah Harari - Nexus (p. 1933)

Se os textos infalíveis simplesmente levaram ao surgimento de Igrejas falíveis e opressoras, como então lidar com o problema do erro humano? A noção ingênua da informação postula que é possível resolvê-lo criando o oposto de uma Igreja — a saber, um livre mercado da informação.

Meu comentário

Assim com o autor acredita isso me parece fantasioso.

Yuval Noah Harari - Nexus (p. 1948)

Os que conectam prelo e ciência supõem que o mero ato de produzir e difundir mais informação inevitavelmente leva as pessoas à verdade.

Yuval Noah Harari - Nexus (p. 2024)

As pessoas começaram a fazer denúncias mútuas de bruxaria ao mais tênue sinal, muitas vezes para se vingar de desfeitas pessoais ou obter vantagens políticas e econômicas.

Yuval Noah Harari - Nexus (p. 2053)

A caça às bruxas ilustra o lado sombrio de criar uma esfera de informação. Tal como ocorria com as discussões rabínicas do Talmude e as discussões escolásticas das Escrituras cristãs, a caça às bruxas era alimentada por um oceano crescente de informações que, em vez de representar a realidade, criava uma nova realidade.

Yuval Noah Harari - Nexus (p. 2102)

Não presenciou nenhuma bruxaria ao vivo, mas havia tanta informação sobre bruxas circulando que lhe era difícil duvidar de toda ela.

Yuval Noah Harari - Nexus (p. 2113)

Em termos mais específicos, um mercado de ideias totalmente livre pode incentivar a disseminação do ressentimento e do sensacionalismo em detrimento da verdade.

Yuval Noah Harari - Nexus (p. 2132)

As instituições de curadoria que desempenharam um papel central na revolução científica conectavam estudiosos e pesquisadores dentro e fora das universidades, formando uma rede de informação que se estendeu por toda a Europa e, por fim, por todo o mundo.

Meu comentário

Revistas e jornais cientificos bem como associacoes do tipo

Yuval Noah Harari - Nexus (p. 2146)

Uma instituição científica, porém, ganhava autoridade porque tinha sólidos mecanismos de autocorreção, que expunham e retificavam os erros da própria instituição. Foram esses mecanismos de autocorreção, e não a tecnologia do prelo, que constituíram o motor da revolução científica.

Yuval Noah Harari - Nexus (p. 2152)

O projeto científico parte da rejeição da fantasia da infalibilidade e avança construindo uma rede de informação que considera inevitável o erro.

Yuval Noah Harari - Nexus (p. 2161)

A marca registrada da ciência não é meramente o ceticismo, e sim o autoceticismo, e no cerne de toda instituição científica encontramos um sólido mecanismo autocorretor.

Yuval Noah Harari - Nexus (p. 2166)

O mecanismo autocorretor aceita a falibilidade. Por autocorretor, refiro-me ao mecanismo que uma entidade utiliza para corrigir a si mesma.

Yuval Noah Harari - Nexus (p. 2186)

Esses mecanismos começam com a percepção de que os seres humanos são falíveis e corruptíveis.

Yuval Noah Harari - Nexus (p. 2198)

No dogma católico, “o depósito da fé” se refere ao corpo da verdade revelada que a Igreja recebeu das Escrituras e de sua tradição sagrada de interpretá-las.

Yuval Noah Harari - Nexus (p. 2202)

Segundo o dogma católico, a infalibilidade bíblica e a orientação divina vencem a corrupção humana, e assim, mesmo que membros individuais da Igreja possam errar e pecar, a Igreja católica como instituição nunca está errada.

Yuval Noah Harari - Nexus (p. 2248)

Mas o que caracteriza a autocorreção em instituições como a Igreja católica é que, mesmo quando ocorre, ela é negada, e não celebrada. A primeira regra ao mudar os ensinamentos da Igreja é nunca admitir mudar os ensinamentos da Igreja.

Yuval Noah Harari - Nexus (p. 2261)

Pois a Igreja caiu na armadilha da infalibilidade. Na medida em que baseou sua autoridade religiosa na alegação de infalibilidade, qualquer admissão pública de erro institucional — mesmo em questões relativamente secundárias — poderia destruir sua autoridade por completo.

Yuval Noah Harari - Nexus (p. 2270)

O essencial é que as instituições científicas estão dispostas a admitir sua responsabilidade institucional por erros e crimes de grande monta.

Meu comentário

Sera mesmo? Nao me parece que isso seja cerdade plena no mundo editorial.

Yuval Noah Harari - Nexus (p. 2287)

Hoje a disciplina da psiquiatria não tenta dar uma interpretação mais positiva à definição de homossexualidade de 1952. Em vez disso, ela vê a definição de 1952 como um erro absoluto.

Meu comentário

E isso e fundamental

Yuval Noah Harari - Nexus (p. 2303)

A contratação e as promoções nas instituições científicas se baseiam no princípio do “publicar ou morrer”, e, para publicar em revistas de prestígio, você precisa expor algum erro em teorias existentes ou descobrir algo que seus professores e predecessores não sabiam.

Yuval Noah Harari - Nexus (p. 2307)

A ciência é um empreendimento institucional, e os cientistas se baseiam na instituição em quase tudo o que sabem.

Meu comentário

E importante frisae isso sempre.

Yuval Noah Harari - Nexus (p. 2318)

Mas espera-se que os especialistas na história da feitiçaria que leram o livro de Hutton e podem estar lendo o presente livro detectem esses erros e os exponham.

Meu comentário

Essa e uma caracteristica importante do processo cientifico mas que tambem e um limitador. Como saber/acompanhar os erros descritos?

Yuval Noah Harari - Nexus (p. 2353)

Fornecendo evidências empíricas suficientes, geralmente leva apenas umas poucas décadas até que uma teoria heterodoxa derrube o saber estabelecido para se tornar o novo consenso.

Yuval Noah Harari - Nexus (p. 2370)

Uma instituição pode ter o nome que quiser, mas sem um sólido mecanismo de autocorreção não é uma instituição científica.

Yuval Noah Harari - Nexus (p. 2374)

Tais mecanismos são vitais para a busca da verdade, mas custosos para a manutenção da ordem. Mecanismos autocorretores sólidos tendem a criar dúvidas, divergências, conflitos e cisões, e a debilitar os mitos que mantêm a ordem social unida.

Yuval Noah Harari - Nexus (p. 2380)

A história das redes de informação sempre incluiu a manutenção de um equilíbrio entre verdade e ordem.

Yuval Noah Harari - Nexus (p. 2396)

Afinal, uma das maiores questões em relação à ia é se ela favorecerá ou debilitará os mecanismos autocorretores democráticos.

Meu comentário

E isso ainda e dificil de saber

Yuval Noah Harari - Nexus (p. 2398)

Democracia e ditadura costumam ser discutidas como sistemas políticos e éticos contrastantes. Este capítulo tenta modificar os termos da discussão, analisando a história da democracia e da ditadura como tipos contrastantes de redes de informação, e mostra que, nas democracias e nos sistemas ditatoriais, as informações fluem de maneiras diferentes e que a invenção de novas tecnologias de informação ajuda o florescimento de diferentes tipos de regime.

Yuval Noah Harari - Nexus (p. 2401)

As redes de informação ditatoriais são altamente centralizadas.1 Isso pode significar duas coisas.

Yuval Noah Harari - Nexus (p. 2403)

Em primeiro lugar, o centro desfruta de autoridade ilimitada, o que significa que as informações tendem a fluir para o ponto central, em que são tomadas as decisões mais importantes.

Yuval Noah Harari - Nexus (p. 2407)

Mas nem toda ditadura é totalitária.

Yuval Noah Harari - Nexus (p. 2409)

Em muitos regimes ditatoriais, portanto, considerável autonomia é conferida a indivíduos, empresas e comunidades, embora os ditadores sempre retenham a autoridade de intervir na vida das pessoas.

Yuval Noah Harari - Nexus (p. 2411)

A segunda característica das redes ditatoriais é que elas supõem que o centro seja infalível. Consequentemente, detestam qualquer contestação às decisões do centro.

Yuval Noah Harari - Nexus (p. 2423)

Em suma, uma ditadura é uma rede de informações centralizada, sem mecanismos robustos de autocorreção.

Yuval Noah Harari - Nexus (p. 2423)

Já uma democracia, por sua vez, é uma rede de informações distribuída, com fortes mecanismos de autocorreção.

Yuval Noah Harari - Nexus (p. 2430)

Autonomia não é consequência de ineficácia do governo; é o ideal democrático.

Yuval Noah Harari - Nexus (p. 2435)

Claro, se o governo central não intervém de forma alguma na vida das pessoas e não lhes oferece serviços essenciais como segurança, não há democracia; há anarquia.

Yuval Noah Harari - Nexus (p. 2438)

Na falta de uma razão convincente, um governo democrático deveria deixar as pessoas se organizarem sozinhas.

Yuval Noah Harari - Nexus (p. 2439)

Outra característica essencial das democracias é que elas partem do princípio de que todos são falíveis. Portanto, embora deem ao centro a autoridade de tomar decisões vitais, as democracias mantêm fortes mecanismos capazes de contestar a autoridade central.

Yuval Noah Harari - Nexus (p. 2444)

Como consequência, enquanto a ditadura diz respeito a um único ponto central de informações, a democracia é uma conversa em andamento entre diversos nós de informação.

Meu comentário

Essa distincao e importante

Yuval Noah Harari - Nexus (p. 2451)

A tomada de decisões em assuntos coletivos requer, antes de tudo, uma conversa pública e nacional, depois da qual representantes do povo — escolhidos em eleições livres e justas — batem o martelo. Mas a escolha, mesmo depois de feita, deve continuar sujeita a reexame e correção. Embora não possa alterar escolhas anteriores, a rede tem como eleger um governo diferente da próxima vez.

Yuval Noah Harari - Nexus (p. 2456)

Eleições são uma parte central do kit de ferramentas democráticas, mas não são democracia.

Meu comentário

Sempre bom levantar esse ponto.

Yuval Noah Harari - Nexus (p. 2458)

Até porque democracia não é sinônimo de ditadura da maioria.

Yuval Noah Harari - Nexus (p. 2474)

O método mais usado por líderes autoritários para enfraquecer a democracia é atacar os seus mecanismos de autocorreção, um depois do outro, começando, quase sempre, pelos tribunais e pela imprensa.

Yuval Noah Harari - Nexus (p. 2490)

No entanto, democracia não significa governo da maioria; a rigor, significa liberdade e igualdade para todos. Democracia é um sistema que garante a todos certas liberdades, que nem mesmo a maioria pode tirar.

Yuval Noah Harari - Nexus (p. 2495)

Mas, numa democracia, há dois pacotes de direitos que estão fora do alcance da maioria. Um contém direitos humanos.

Yuval Noah Harari - Nexus (p. 2499)

O segundo pacote essencial de direitos inclui os direitos civis.

Yuval Noah Harari - Nexus (p. 2507)

Uma coisa importante a ser notada tanto sobre direitos humanos quanto sobre direitos civis é que eles não apenas limitam o poder do governo central; eles também lhe impõem deveres ativos.

Meu comentário

Isso e importante e curioso ao mesmo tempo.

Yuval Noah Harari - Nexus (p. 2518)

Tanto os direitos humanos quanto os direitos civis são convenções intersubjetivas que os humanos inventam em vez de descobrir, determinados por contingências históricas, e não pela razão universal.

Yuval Noah Harari - Nexus (p. 2522)

E lembremos que as eleições não são um método de descobrir a verdade. São, pelo contrário, um método de manter a ordem atuando como juiz dos desejos conflitantes das pessoas.

Meu comentário

Ta ai uma definicao curiosa sobre o voto e as eleicoes.

Yuval Noah Harari - Nexus (p. 2547)

Reconhecer a realidade das mudanças climáticas não nos diz o que devemos fazer a respeito delas. Sempre existem opções, e escolher entre elas é uma questão de desejo, e não de verdade.

Meu comentário

Ts ai uma diferenca entre ciencia e tecnologia e como sair de uma para outra

Yuval Noah Harari - Nexus (p. 2560)

O governo já é a instituição mais poderosa nas sociedades desenvolvidas e quase sempre tem o maior interesse em distorcer ou ocultar verdades inconvenientes. Permitir que o governo supervisione a busca da verdade é como chamar a raposa para tomar conta do galinheiro.

Yuval Noah Harari - Nexus (p. 2571)

Nenhum desses mecanismos é imune a falhas, mas nenhuma instituição o é. O governo com certeza não

Yuval Noah Harari - Nexus (p. 2573)

Se tudo isso parece complicado é porque a democracia é para ser complicada. A simplicidade é característica de redes de informação ditatoriais, em que o centro dita as regras e todos obedecem em silêncio.

Yuval Noah Harari - Nexus (p. 2582)

O termo “populismo” vem do latim populus, que significa “o povo”. Nas democracias, “o povo” é considerado a única fonte legítima de autoridade política.

Yuval Noah Harari - Nexus (p. 2586)

A mais nova alegação feita pelos populistas é de que só eles, de fato, representam o povo. Se nas democracias apenas o povo deveria ter poder político, e como supostamente só os populistas representam o povo, conclui-se que o partido populista deveria concentrar em suas mãos todo o poder político.

Yuval Noah Harari - Nexus (p. 2598)

Da mesma forma, os populistas podem achar que os inimigos do povo convenceram o povo a votar contra a sua vontade, que só os populistas de fato representam.

Yuval Noah Harari - Nexus (p. 2613)

Como saber, então, se alguém é parte do povo ou não? Fácil. Se apoia o líder, é parte do povo. Essa, de acordo com o filósofo político alemão Jan-Werner Müller, é a característica definidora do populismo.

Yuval Noah Harari - Nexus (p. 2614)

O que faz de alguém um populista é afirmar que só ele ou ela representam o povo e que qualquer um que discorde — sejam burocratas do Estado, grupos minoritários ou até mesmo a maioria do eleitorado — tem falsa consciência ou não faz realmente parte do povo.

Yuval Noah Harari - Nexus (p. 2624)

O populismo corrói a democracia de outra maneira mais sutil, porém igualmente perigosa. Tendo alegado que só eles representam o povo, os populistas sustentam que o povo é não só a única fonte legítima de autoridade política, como também de toda a autoridade.

Yuval Noah Harari - Nexus (p. 2629)

Na verdade, embora democracia signifique que a autoridade na esfera política vem do povo, ela não nega a validade de fontes alternativas de autoridade em outras esferas.

Yuval Noah Harari - Nexus (p. 2635)

Os populistas desconfiam de instituições que, em nome da verdade objetiva, ignoram a suposta vontade do povo.

Yuval Noah Harari - Nexus (p. 2649)

É por isso que toda instituição precisa de mecanismos de autocorreção. Mas, convencidos de que o poder é a única realidade, os populistas não podem aceitar que um tribunal, um veículo de comunicação ou uma disciplina acadêmica possam ser inspirados pelo valor da verdade ou da justiça para se corrigirem.

Yuval Noah Harari - Nexus (p. 2665)

É por isso que os populistas dependem, em última análise, da noção mística de que o líder autoritário encarna o povo.

Yuval Noah Harari - Nexus (p. 2674)

Democracia e ditadura não são opostos binários, mas um espectro contínuo.

Yuval Noah Harari - Nexus (p. 2694)

O Congresso dos Estados Unidos foi projetado para cumprir essa função, com representantes do povo reunidos para conversar e tentar convencer uns aos outros. Mas quando foi a última vez que um eloquente discurso no Congresso, feito por alguém de um partido, convenceu membros do outro partido a mudarem de ideia sobre alguma coisa?

Yuval Noah Harari - Nexus (p. 2697)

democracias morrem não só quando as pessoas não têm liberdade de falar, mas também quando não querem e não são capazes de ouvir.

Yuval Noah Harari - Nexus (p. 2719)

A economia de grande parte dos caçadores-coletores era muito mais diversificada. Um líder, ainda que apoiado por alguns aliados, não tinha como cercar a savana e impedir que as pessoas coletassem plantas e caçassem animais.

Yuval Noah Harari - Nexus (p. 2739)

Todos os cidadãos adultos do sexo masculino podiam participar da assembleia ateniense, votar em políticas públicas e se eleger para cargos públicos. Mas as mulheres, os escravizados e os não cidadãos residentes da cidade não desfrutavam desses privilégios. Apenas cerca de 25% a 30% da população adulta de Atenas tinha plenos direitos políticos.

Yuval Noah Harari - Nexus (p. 2794)

O maior equívoco aqui é equiparar democracia com eleições. Dezenas de milhares de cidadãos romanos poderiam teoricamente votar em candidatos a imperador. Mas a verdadeira indagação é se dezenas de milhares de romanos seriam capazes de manter um diálogo político contínuo em todo o seu território.

Yuval Noah Harari - Nexus (p. 2800)

Para manter um diálogo, não bastam a liberdade de falar e a capacidade de ouvir. Há, além disso, dois pré-requisitos técnicos. Em primeiro lugar, as pessoas precisam ser capazes de ouvir umas às outras.

Yuval Noah Harari - Nexus (p. 2804)

Em segundo, as pessoas precisam ao menos de um entendimento rudimentar a respeito daquilo que estão falando.

Yuval Noah Harari - Nexus (p. 2811)

Uma conversa política de grande alcance entre grupos diversos só ocorrerá se as pessoas puderem adquirir alguma compreensão de questões que jamais vivenciaram.

Meu comentário

Isso também é válido para a ciência não?

Yuval Noah Harari - Nexus (p. 2838)

Filósofos antigos, como Platão e Aristóteles, já sabiam disso, alegando que a democracia só funcionava em cidades-Estado de pequeno porte.

Yuval Noah Harari - Nexus (p. 2843)

Deve-se ressaltar que, em muitas autocracias em grande escala, questões locais costumavam ser resolvidas de forma democrática.

Meu comentário

Isso é um ponto curioso.a informação não é amplamente disponível sem a tecnologia adequada.

Yuval Noah Harari - Nexus (p. 2858)

Mesmo em impérios cujos governantes não tinham pretensões democráticas, a democracia ainda conseguia prosperar em nível local.

Yuval Noah Harari - Nexus (p. 2870)

Mas a democracia numa escala de milhões de pessoas só se tornou possível na era moderna quando os meios de comunicação de massa mudaram a natureza das redes de informação em grande escala.

Yuval Noah Harari - Nexus (p. 2873)

Os meios de comunicação de massa são tecnologias da informação capazes de conectar rapidamente milhões de pessoas a longa distância.

Yuval Noah Harari - Nexus (p. 2884)

Embora dificilmente isso pareça democrático no século xxi, é bom lembrar que todas as democracias em grande escala até o século xx limitavam os direitos políticos a um pequeno círculo de homens relativamente ricos.

Meu comentário

Essa é uma característica marcante

Yuval Noah Harari - Nexus (p. 2915)

Diferentemente de publicações de edição única, um jornal semanal ou diário tem a chance de corrigir seus erros e um incentivo para fazê-lo, que é conquistar a confiança do público.

Yuval Noah Harari - Nexus (p. 2956)

Nas eleições de 1824, que levaram Adams ao poder, 1,3 milhão de americanos, na teoria, tinham o direito de votar, numa população de 5 milhões (ou mais ou menos 25%). Apenas 352 780 pessoas — 7% da população adulta total — de fato fez uso desse direito.

Yuval Noah Harari - Nexus (p. 2966)

Como já foi dito, democracia e autocracia não são tudo ou nada; mas parte de um espectro. No começo do século xix, entre todas as sociedades humanas em larga escala, é provável que os Estados Unidos estivessem mais próximos do extremo democrático.

Yuval Noah Harari - Nexus (p. 2999)

Um século adiante, as coisas de fato aceleraram. Pela primeira vez na história, novas tecnologias permitiram que massas de pessoas, espalhadas por vastas extensões territoriais, se conectassem umas com as outras em tempo real.

Yuval Noah Harari - Nexus (p. 3004)

A democracia em larga escala se tornara viável. Milhões de pessoas separadas por milhares de quilômetros podiam realizar debates públicos esclarecidos e importantes sobre as principais questões do momento.

Yuval Noah Harari - Nexus (p. 3009)

Os meios de comunicação de massa tornaram a democracia possível, mas não inevitável. Também viabilizaram outros tipos de regime. Em particular, as novas tecnologias de informação da era moderna abriram as portas para os regimes totalitários em larga escala.

Yuval Noah Harari - Nexus (p. 3016)

Sistemas totalitários pressupõem sua própria infalibilidade e buscam ter o controle total da vida das pessoas.

Yuval Noah Harari - Nexus (p. 3019)

Para compreendermos isso, precisamos primeiro esclarecer a diferença entre regimes totalitários e regimes autocráticos menos extremos. Numa rede autocrática, não há limites legais para a vontade do governante, mas há, apesar disso, uma série de limites técnicos. Numa rede totalitária, diversos desses limites técnicos estão ausentes.

Yuval Noah Harari - Nexus (p. 3035)

O totalitarismo é a tentativa de controlar o que cada pessoa no país inteiro faz e diz a cada momento do dia, e potencialmente até mesmo o que cada pessoa pensa e sente.

Yuval Noah Harari - Nexus (p. 3049)

Para imperadores, califas, xás e reis, manter os subordinados sob controle era um tremendo desafio. Por consequência, os governantes concentravam sua atenção em controlar os militares e o sistema tributário.

Yuval Noah Harari - Nexus (p. 3096)

No entanto, o Império Qin superou outros impérios antigos em suas ambições totalitárias.

Yuval Noah Harari - Nexus (p. 3098)

O legalismo postulava que os homens eram naturalmente gananciosos, cruéis e egoístas. Ressaltava a necessidade de controle rigoroso, afirmava que as punições e as recompensas eram a maneira mais efetiva de controlar, e insistia em que o poder do Estado não fosse restringido por considerações morais.

Yuval Noah Harari - Nexus (p. 3122)

Os imperadores Han eram autocráticos, sem dúvida, mas não totalitários. Não reconheciam limite algum para a sua autoridade, mas não tentavam microgerir a vida de cada um.

Yuval Noah Harari - Nexus (p. 3143)

A rede stalinista era formada por três grandes ramos.

Yuval Noah Harari - Nexus (p. 3144)

Em primeiro lugar, havia o aparelho governamental de ministérios, administrações regionais e unidades regulares do Exército Vermelho, que em 1939 compreendia 1,6 milhão de funcionários civis71 e 1,9 milhão de soldados.

Yuval Noah Harari - Nexus (p. 3147)

Em segundo, havia o aparelho do Partido Comunista da União Soviética e suas ubíquas células partidárias, que em 1939 incluía 2,4 milhões de membros do partido.

Yuval Noah Harari - Nexus (p. 3149)

Em terceiro lugar, havia a polícia secreta:

Yuval Noah Harari - Nexus (p. 3153)

Assim como a democracia é mantida por mecanismos sobrepostos de autocorreção que vigiam uns aos outros, o totalitarismo moderno criou mecanismos sobrepostos de vigilância que mantêm uns aos outros na linha.

Yuval Noah Harari - Nexus (p. 3194)

Segue-se que um dos pilares do regime totalitário é que sempre que as pessoas se reúnem e trocam informações, o regime precisa estar lá também, de olho. Nos anos 1930, esse foi um princípio comum a Hitler e Stálin.

Yuval Noah Harari - Nexus (p. 3233)

Estavam também convencidos das vantagens econômicas do sistema proposto, achando que o colcoz se beneficiaria bastante da economia de escala.

Meu comentário

Isso até faz sentido

Yuval Noah Harari - Nexus (p. 3266)

Se na imaginação de Kramer bruxas a serviço de Satã invocavam tempestades de granizo que destruíam as plantações, na imaginação stalinista cúlaques subordinados ao capitalismo global sabotavam a economia soviética.

Meu comentário

Inimigos imaginários são sempre um problema

Yuval Noah Harari - Nexus (p. 3271)

Ser cúlaque significava não só possuir alguma propriedade, mas também ter certos traços de personalidade.

Yuval Noah Harari - Nexus (p. 3325)

Como o menino “bruxo” de dez anos Hansel Pappenheimer, a menina “cúlaque” de onze anos Antonina Golovina se viu atirada numa categoria intersubjetiva inventada por criadores humanos de mitos e imposta por burocratas onipresentes.

Meu comentário

Como a maioria das categorias sociais, preconceitos e estigmas

Yuval Noah Harari - Nexus (p. 3333)

Por consequência, as crianças soviéticas aprendiam a cultuar Stálin como seu verdadeiro pai e a denunciar os pais biológicos se eles criticassem Stálin ou o Partido Comunista.

Yuval Noah Harari - Nexus (p. 3351)

A lição mais importante que os pais soviéticos ensinavam aos filhos não era lealdade ao partido ou a Stálin. Era “bico calado”.103 Poucas coisas eram mais perigosas na União Soviética do que conversar abertamente.

Yuval Noah Harari - Nexus (p. 3358)

Há, no entanto, diferenças significativas entre o totalitarismo moderno e as Igrejas pré-modernas. Em primeiro lugar, como já observado, o totalitarismo moderno opera empregando mecanismos sobrepostos de vigilância, que mantêm uns aos outros na linha.

Yuval Noah Harari - Nexus (p. 3369)

A ideia do totalitarismo é justamente impedir qualquer separação de poderes.

Yuval Noah Harari - Nexus (p. 3373)

Outra diferença relevante é que as Igrejas medievais tendiam a ser organizações tradicionalistas resistentes a mudanças, enquanto os partidos totalitários modernos tendem a ser organizações revolucionárias que exigem mudanças.

Yuval Noah Harari - Nexus (p. 3393)

Talvez o mais importante de tudo é que as Igrejas pré-modernas não podiam tornar-se ferramentas de controle totalitário, porque elas também sofriam as mesmas limitações de todas as outras organizações pré-modernas.

Yuval Noah Harari - Nexus (p. 3403)

As Igrejas só se tornaram instituições mais totalitárias no fim da era moderna, com a disponibilidade das modernas tecnologias da informação.

Yuval Noah Harari - Nexus (p. 3406)

Com o advento do rádio, os papas entraram para o clube das pessoas mais poderosas do planeta. O papa João Paulo ii, sentado no Vaticano, era capaz de falar diretamente com milhões de católicos da Polônia às Filipinas, sem que nenhum arcebispo, bispo ou pároco pudessem distorcer as suas palavras.

Yuval Noah Harari - Nexus (p. 3412)

Já vimos que a democracia incentiva que ela flua através de muitos canais independentes, e não apenas através do centro, o que permite que muitos nós independentes processem as informações e tomem decisões por conta própria.

Yuval Noah Harari - Nexus (p. 3416)

Já o totalitarismo, por sua vez, quer que todas as informações passem pelo ponto central, e não que instituições independentes tomem decisões por contra própria.

Yuval Noah Harari - Nexus (p. 3420)

A maior vantagem da rede totalitária centralizada é ser extremamente organizada, o que significa que pode tomar decisões com rapidez e implementá-las sem piedade. Em especial durante emergências, como guerras e epidemias, as redes centralizadas podem agir muito mais depressa e ir mais fundo do que as redes distribuídas.

Yuval Noah Harari - Nexus (p. 3423)

Mas redes de informação hipercentralizadas também apresentam uma série de desvantagens. Como não permitem que as informações fluam por nenhum outro lugar senão os canais oficiais, se eles estiverem bloqueados, as informações não dispõem de meios alternativos de transmissão. E os canais oficiais ficam bloqueados com frequência.

Yuval Noah Harari - Nexus (p. 3425)

Uma razão comum para impedimento dos canais oficiais é o fato de que subordinados temerosos escondem as más notícias dos seus superiores.

Yuval Noah Harari - Nexus (p. 3435)

Outra razão comum para os canais oficiais não repassarem informações é a preservação da ordem.

Yuval Noah Harari - Nexus (p. 3451)

Naturalmente, líderes de países democráticos também não gostam de más notícias. Mas numa rede democrática distributiva, quando as linhas oficiais de comunicação ficam bloqueadas, as informações fluem por canais alternativos.

Yuval Noah Harari - Nexus (p. 3564)

Quando consideramos a história da Segunda Guerra Mundial e seu desfecho como um todo, fica evidente que o stalinismo foi, na verdade, um dos sistemas políticos mais bem-sucedidos já imaginados — se definirmos “sucesso” apenas em termos de ordem e poder, sem levar em conta todas as considerações de ética e de bem-estar humano.

Yuval Noah Harari - Nexus (p. 3580)

Sistemas de informação podem ir bem longe apenas com um pouco de verdade e muita ordem.

Yuval Noah Harari - Nexus (p. 3586)

A tecnologia apenas abre novas oportunidades; cabe a nós decidir qual delas aproveitar.

Meu comentário

O problema é que várias coisas abrem espaço para outras.

Yuval Noah Harari - Nexus (p. 3587)

Os regimes totalitários optam por usar tecnologias modernas da informação para centralizar o fluxo de informações e sufocar a verdade em nome da manutenção da ordem.

Yuval Noah Harari - Nexus (p. 3590)

Os regimes democráticos optam por usar tecnologias modernas da informação para distribuir o fluxo de informações entre mais instituições e indivíduos, e incentivam a busca da verdade.

Yuval Noah Harari - Nexus (p. 3636)

Foi uma conquista tão notável que muita gente achava que a vitória da democracia contra o totalitarismo era definitiva. Essa vitória costuma ser explicada em termos de uma vantagem fundamental no processamento de informações: o totalitarismo não funcionava porque não dava certo tentar concentrar e processar todos os dados num ponto central.

Yuval Noah Harari - Nexus (p. 3639)

Não foi bem assim. Na verdade, a revolução da informação seguinte já estava ganhando impulso, preparando terreno para uma nova rodada da competição entre a democracia e o totalitarismo.

Yuval Noah Harari - Nexus (p. 3645)

Sim, os velhos na tribuna da praça Vermelha não estavam à altura da tarefa de orquestrar milhões de vidas a partir de um único centro. Mas talvez a ia esteja.

Meu comentário

Esse é um ponto importante e curioso

Yuval Noah Harari - Nexus (p. 3650)

Como em épocas anteriores, as redes de informação lutarão para encontrar o equilíbrio adequado entre verdade e ordem. Algumas darão prioridade à verdade e a manter fortes mecanismos de autocorreção. Outras farão a escolha contrária.

Yuval Noah Harari - Nexus (p. 3658)

A grande divisão na política do século xxi talvez não se dê entre as democracias e os regimes totalitários, mas entre seres humanos e agentes não humanos.

Yuval Noah Harari - Nexus (p. 3670)

A semente da revolução atual é o computador. Todo o resto — da internet à ia — é subproduto.

Yuval Noah Harari - Nexus (p. 3689)

Com os computadores, a história é outra. Em termos de inteligência, os computadores superam não só bombas atômicas, como também todas as tecnologias da informação que vieram antes, como tabuinhas de argila, prelos e aparelhos de rádio.

Yuval Noah Harari - Nexus (p. 3695)

Enquanto os prelos e os aparelhos de rádio eram ferramentas passivas em mãos humanas, os computadores já estão se transformando em agentes ativos que fogem do nosso controle e da nossa compreensão, e podem tomar iniciativas que definem a sociedade, a cultura e a história.

Yuval Noah Harari - Nexus (p. 3738)

Os leitores podem se perguntar se é justificável atribuir tanta culpa aos algoritmos do Facebook, e de forma mais geral à nova tecnologia das redes sociais. Se Heinrich Kramer usou o prelo para difundir discursos de ódio, a culpa foi do prelo de Gutenberg?

Meu comentário

Esse é um ponto importante sobre as diferentes ferramentas e suas responsabilidades

Yuval Noah Harari - Nexus (p. 3748)

O mais importante aqui é entender que os algoritmos de rede social são fundamentalmente diferentes de prelos e de aparelhos de rádio. Em 2016-7, os algoritmos do Facebook tomavam decisões, ativa e fatidicamente, por conta própria.

Yuval Noah Harari - Nexus (p. 3762)

No caso da Bíblia, o poder supremo não estava nas mãos dos autores que compuseram diferentes tratados religiosos, mas nas dos curadores que criavam listas de recomendações. Era esse o tipo de poder exercido pelos algoritmos de rede social nos anos 2010.

Meu comentário

É isso que diferentes algoritmos fazem. Tomam decisões por vezes com base em objetivos diferentes do que é a intenção do usuário.

Yuval Noah Harari - Nexus (p. 3781)

Em consonância com esse modelo de negócios, gestores humanos deram aos algoritmos da empresa uma missão suprema: aumentar o engajamento dos usuários.

Yuval Noah Harari - Nexus (p. 3786)

Nunca há um único culpado para campanhas de limpeza étnica. Há culpa suficiente a ser compartilhada por diversas partes responsáveis.

Yuval Noah Harari - Nexus (p. 3791)

Esta é a marca registrada da ia — a capacidade que uma máquina tem de aprender e de agir por conta própria.

Meu comentário

Não é bem essa a ideia de uma IA mas para os argumentos do livro ela é suficiente

Yuval Noah Harari - Nexus (p. 3799)

Soldados humanos são moldados pelo código genético e obedecem a ordens dos executivos, mas, mesmo assim, são capazes de tomar decisões independentes. O mesmo vale para algoritmos de ia. Eles são capazes de aprender sozinhos coisas que nenhum engenheiro humano programou e de decidir coisas que nenhum executivo humano previu. Essa é a essência da revolução da ia. O mundo vem sendo inundado por incontáveis e poderosos novos agentes.

Yuval Noah Harari - Nexus (p. 3809)

Muita gente supõe que eu e outros como eu costumamos antropomorfizar computadores imaginando que são seres conscientes, capazes de pensar e sentir. Mas, na verdade, computadores são máquinas estúpidas que não pensam nem sentem coisa alguma e, portanto, não podem tomar decisões ou criar ideias por conta própria.

Yuval Noah Harari - Nexus (p. 3812)

Essa objeção parte do princípio de que tomar decisões e criar ideias pressupõe ter consciência. Mas isso é um grande mal-entendido que resulta de uma confusão muito mais comum entre inteligência e consciência.

Yuval Noah Harari - Nexus (p. 3815)

Mas inteligência e consciência são coisas bem diferentes. Inteligência é a capacidade de alcançar objetivos, como maximizar o envolvimento do usuário numa plataforma de rede social. Consciência é a capacidade de ter sentimentos subjetivos como dor, prazer, amor e ódio.

Yuval Noah Harari - Nexus (p. 3827)

Claro, à medida que se tornam mais inteligentes, os computadores podem acabar desenvolvendo consciência e tendo algum tipo de experiência subjetiva. Mas podem da mesma forma vir a ser muito mais inteligentes do que nós, sem jamais desenvolverem sentimento algum.

Meu comentário

Essa acho que é a maior questão sobre computadores. Eles são capazes de atingir objetivos de forma mais eficaz sem necessariamente saber o por que disso.

Yuval Noah Harari - Nexus (p. 3832)

Assim como aviões voam muito mais rápido do que pássaros sem precisar desenvolver penas, pode ser que os computadores venham a resolver problemas bem melhor do que os seres humanos, sem que jamais desenvolvam sentimentos.

Yuval Noah Harari - Nexus (p. 3850)

Captcha é um acrônimo de “Completely Automated Public Turing test to tell Computers and Humans Apart [Teste de Turing público completamente automatizado para distinguir entre computadores e humanos]”

Yuval Noah Harari - Nexus (p. 3867)

Mas, com esses objetivos em vista, os algoritmos demonstraram considerável autonomia ao decidir como alcançá-los.

Yuval Noah Harari - Nexus (p. 3879)

Na verdade, o livro argumenta que o surgimento de computadores capazes de alcançar objetivos e tomar decisões por conta própria altera a estrutura fundamental da nossa rede de informações.

Yuval Noah Harari - Nexus (p. 3881)

Antes do surgimento dos computadores, os seres humanos eram elos indispensáveis em todas as cadeias de redes de informação, como Igrejas e Estados.

Yuval Noah Harari - Nexus (p. 3890)

Já as cadeias de computador para computador agora podem funcionar sem que haja humanos no circuito.

Yuval Noah Harari - Nexus (p. 3895)

Tudo isso pode se dar em segundos, antes que qualquer ser humano consiga perceber e decifrar o que é que todos esses computadores estão fazendo.

Meu comentário

E provavelmente será cada vez mais acelerado e provável

Yuval Noah Harari - Nexus (p. 3896)

Outro jeito de entender a diferença entre computadores e todas as tecnologias que vieram antes é lembrar que computadores são membros plenos e ativos da rede de informações, enquanto as tabuinhas de argila, os prelos e os aparelhos de rádio não passavam de conexões entre os membros. Membros são agentes ativos capazes de tomar decisões e gerar novas ideias por conta própria. Conexões se limitam a transmitir informações entre os membros, sem decidir ou gerar coisa alguma.

Yuval Noah Harari - Nexus (p. 3907)

Os computadores podem, em tese, se tornar membros mais poderosos do que os humanos.

Yuval Noah Harari - Nexus (p. 3907)

Durante dezenas de milhares de anos, o superpoder dos sapiens foi a nossa aptidão única de utilizar a linguagem para criar realidades intersubjetivas, como leis e moedas, e então usar essas realidades intersubjetivas para nos conectarmos com outros sapiens. Mas os computadores podem muito bem virar o jogo contra nós.

Yuval Noah Harari - Nexus (p. 3916)

Podemos chegar a um ponto em que os computadores dominem os mercados financeiros e inventem ferramentas completamente novas, além da nossa capacidade de entendimento.

Yuval Noah Harari - Nexus (p. 3964)

Por outro lado, a ia não só pode redigir novas escrituras, como também é perfeitamente capaz de fazer a curadoria delas e interpretá-las. Não é necessário nenhum ser humano no circuito.

Yuval Noah Harari - Nexus (p. 3969)

Quando nos envolvemos num debate político com um computador que finge ser humano, perdemos duas vezes. Primeiro porque é inútil empregar nosso tempo tentando mudar as opiniões de um bot de propaganda, que é invulnerável à persuasão. Depois porque quanto mais falamos com um computador, mais nos revelamos, facilitando para ele a tarefa de aprimorar seus argumentos e influenciar as nossas opiniões.

Yuval Noah Harari - Nexus (p. 3981)

Se um chatbot é capaz de convencer um humano a arriscar o próprio emprego por sua causa, o que mais poderia nos induzir a fazer?

Yuval Noah Harari - Nexus (p. 4002)

História é uma interação entre biologia e cultura; entre nossas necessidades biológicas e nossos desejos por coisas como comida, sexo e intimidade, e nossas criações culturais, como as religiões e as leis.

Yuval Noah Harari - Nexus (p. 4005)

O que acontecerá com o curso da história quando computadores desempenharem um papel cada vez maior na cultura e começarem a produzir estórias, leis e religiões? Dentro de poucos anos, a ia poderá engolir toda a cultura humana — tudo o que produzimos ao longo de milhares de anos —, digeri-la e começar a expelir um dilúvio de novos artefatos culturais.

Yuval Noah Harari - Nexus (p. 4008)

Vivemos dentro de um casulo de cultura, vivenciando a realidade através de um prisma cultural.

Yuval Noah Harari - Nexus (p. 4016)

Mas, da mesma forma que artistas humanos como Bach podem romper com a tradição e inovar, computadores também podem apresentar inovações culturais, compondo música ou criando imagens um tanto diferentes de tudo o que os humanos já produziram.

Meu comentário

Mesmo que isso as vezes seja limitado.

Yuval Noah Harari - Nexus (p. 4019)

Durante milênios, seres humanos viveram dentro dos sonhos de outros seres humanos. Nas próximas décadas, podemos estar vivendo dentro dos sonhos de uma inteligência alienígena.

Yuval Noah Harari - Nexus (p. 4037)

O que você acabou de ler talvez o tenha assustado ou irritado. Talvez o tenha levado a sentir raiva das pessoas que encabeçam a revolução dos computadores e dos governos que não a regulam. Talvez o tenha deixado com raiva de mim, achando que distorço a realidade, sou alarmista e engano as pessoas. Independente disso, os parágrafos anteriores talvez tenham tido algum efeito emocional sobre você. Contei uma estória, e essa estória pode mudar sua opinião sobre certas coisas, e até mesmo fazer com que tome certas atitudes no mundo. Quem criou essa estória que você acaba de ler? Juro que eu mesmo escrevi o texto, com a ajuda de outros humanos. Juro que isto é um produto cultural da mente humana. Mas você pode ter absoluta certeza disso? Alguns anos atrás, poderia. Antes dos anos 2020, não havia nada no mundo, além da mente humana, que pudesse produzir textos sofisticados. Hoje as coisas são diferentes. Em tese, o texto que você acabou de ler poderia ter sido gerado pela inteligência alienígena de um computador.

Yuval Noah Harari - Nexus (p. 4052)

Tente imaginar o efeito de um livro sagrado que seja capaz não só de falar e ouvir, como também de conhecer nossos medos e esperanças mais profundos, e influenciá-los o tempo todo.

Yuval Noah Harari - Nexus (p. 4054)

Em segundo, têm surgido cadeias de computadores para computadores nas quais computadores interagem entre si por iniciativa própria.

Yuval Noah Harari - Nexus (p. 4067)

Num futuro previsível com razoável certeza, a rede baseada em computadores ainda incluirá bilhões de seres humanos, mas podemos nos tornar minoria.

Meu comentário

Isso provavelmente vai acontecer bem antes do que imaginamos

Yuval Noah Harari - Nexus (p. 4085)

Nossa imagem de computador ainda tende a ser a de uma caixa de metal com tela e teclado, porque essa é a forma que a nossa imaginação orgânica deu aos computadores-bebês no século xx.

Yuval Noah Harari - Nexus (p. 4095)

Organismos são entidades individuais distintas, que podem ser agrupadas em coletivos como espécies e gêneros. Com os computadores, no entanto, é cada vez mais difícil decidir onde uma entidade acaba e outra começa, e como, exatamente, agrupá-las.

Yuval Noah Harari - Nexus (p. 4097)

Neste livro, uso o termo “computador” em referência a todo o complexo de software e hardware, manifestado em forma física.

Yuval Noah Harari - Nexus (p. 4104)

Também uso o termo “algoritmo” para ressaltar aspectos de software, mas é importante lembrar que todos os algoritmos mencionados nas páginas subsequentes são executáveis num computador ou em outro.

Yuval Noah Harari - Nexus (p. 4105)

Uso o termo “ia” quando quero enfatizar a capacidade que alguns algoritmos têm de aprender e de mudar por conta própria.

Yuval Noah Harari - Nexus (p. 4109)

a ia pela métrica da “inteligência no nível humano”, e muito se debate sobre quando podemos esperar que as ias atinjam a “inteligência no nível humano”. No entanto, o uso dessa métrica é terrivelmente confuso. É como definir e avaliar aeronaves pela métrica do “voo no nível do pássaro”.

Yuval Noah Harari - Nexus (p. 4111)

A ia não está avançando em direção à inteligência de nível humano. Ela evolui em direção a um tipo de inteligência totalmente diferente.

Yuval Noah Harari - Nexus (p. 4113)

Outro termo que confunde é “robô”. Neste livro, ele é usado quando me refiro a casos em que um computador se movimenta e opera na esfera física;

Yuval Noah Harari - Nexus (p. 4114)

já o termo “bot” se refere a algoritmos que operam, sobretudo, na esfera digital.

Yuval Noah Harari - Nexus (p. 4116)

tenho uma tendência a falar de “rede” baseada em computador, no singular, em vez de “redes”, no plural. Sei muito bem que computadores podem ser usados para criar muitas redes com características diversas, e o capítulo 11 explora a possibilidade de que o mundo venha a ser dividido entre redes de computador diferentes e até hostis. Contudo, da mesma forma como tribos, reinos e igrejas diferentes compartilham importantes características que nos permitem falar em uma única rede humana que veio a dominar o planeta Terra, prefiro falar da rede de computadores, no singular, para poder contrastá-la com a rede humana que ela está substituindo.

Yuval Noah Harari - Nexus (p. 4124)

O que deve ficar claro desde o início é que essa rede vai criar realidades políticas e pessoas inteiramente novas.

Yuval Noah Harari - Nexus (p. 4130)

Quando escrevemos um código de computador, não estamos apenas projetando um produto. Estamos redesenhando a política, a sociedade e a cultura, portanto é melhor ter um bom entendimento da política, da sociedade e da cultura. Precisamos também assumir a responsabilidade pelo que estamos fazendo.

Meu comentário

Isso é o ponto chave de uma ciência da computação bem estruturado e humana

Yuval Noah Harari - Nexus (p. 4139)

Gigantes da tecnologia como Facebook, Amazon, Baidu e Alibaba não são meros servos obedientes dos caprichos dos clientes e das regulamentações governamentais. Na verdade, eles definem cada vez mais esses caprichos e essas regulamentações.

Yuval Noah Harari - Nexus (p. 4153)

A verdade é que não conhecemos. Não porque sejamos burros, mas porque a tecnologia é bastante complicada e as coisas avançam a uma velocidade vertiginosa.

Yuval Noah Harari - Nexus (p. 4177)

Na literatura tributária, “nexo” significa a conexão de uma entidade com determinada jurisdição.

Yuval Noah Harari - Nexus (p. 4183)

Assim como a Shell e a bp pagam impostos aos países dos quais extraem petróleo, os gigantes da tecnologia deveriam pagar impostos aos países de onde extraem dados.

Meu comentário

Isso parece óbvio não? Mas pelo visto não é o que acontece

Yuval Noah Harari - Nexus (p. 4196)

Esses acordos de informação em troca de informação já se generalizaram. Todos os dias, bilhões de seres humanos realizam numerosas transações com os gigantes da tecnologia, mas não dá para adivinhar olhando para as nossas contas bancárias, porque é como se nenhum dinheiro saísse do lugar.

Yuval Noah Harari - Nexus (p. 4198)

À medida que mais e mais transações obedecem a esse modelo de informação por informação, a economia da informação cresce à custa da economia monetária, até que o próprio conceito de dinheiro se torne duvidoso.

Yuval Noah Harari - Nexus (p. 4203)

Uma pessoa ou empresa com pouco dinheiro no banco, mas com um imenso banco de dados de informações, pode ser a entidade mais rica e mais poderosa do país.

Yuval Noah Harari - Nexus (p. 4230)

Infelizmente, a maioria deles não usa seus conhecimentos para ajudar a regular o explosivo potencial das novas tecnologias. Na verdade, usam esses conhecimentos para ganhar bilhões de dólares — ou acumular petabits de informação.

Yuval Noah Harari - Nexus (p. 4239)

As pessoas que encabeçam a revolução da informação conhecem muito melhor a tecnologia subjacente do que as pessoas incumbidas de regulamentá-la.

Yuval Noah Harari - Nexus (p. 4249)

Quando máquinas impressoras ou algoritmos de aprendizado de máquina são inventados, é inevitável que isso resulte numa profunda revolução social e política. No entanto, os humanos ainda têm muito controle sobre o ritmo, a forma e a direção dessa revolução — o que significa que também temos uma grande responsabilidade.

Yuval Noah Harari - Nexus (p. 4276)

Claro, os computadores pessoais poderiam ter surgido em um tempo e um lugar diferentes. Mas, em história, tempo e lugar são determinantes, e não há dois momentos iguais.

Yuval Noah Harari - Nexus (p. 4304)

No momento, vivemos um impasse político sobre mudanças climáticas, em parte porque os computadores estão num impasse. Cálculos executados por eles nos advertem sobre uma catástrofe ecológica iminente, ao passo que outro conjunto deles nos estimula a ver vídeos que questionam esses alertas. Em que conjunto de computadores vamos acreditar? A política humana agora é também a política dos computadores.

Yuval Noah Harari - Nexus (p. 4313)

Os humanos estão acostumados a monitoramento. Durante milhões de anos, fomos vigiados e seguidos por outros animais, assim como por outros seres humanos. Parentes, amigos e vizinhos sempre quiseram saber o que fazemos ou sentimos, e sempre demos grande importância à maneira como nos veem e ao que sabem a nosso respeito.

Yuval Noah Harari - Nexus (p. 4380)

O verdadeiro poder da Securitate e da kgb não era a capacidade de vigiar todo mundo o tempo todo, mas a de infundir o medo de que pudessem estar vigiando, o que tornava todos extremamente cautelosos com tudo que diziam e faziam.

Yuval Noah Harari - Nexus (p. 4387)

Em 2024, estamos nos aproximando do ponto em que uma rede ubíqua de computadores pode monitorar a população de países inteiros 24 horas por dia.

Yuval Noah Harari - Nexus (p. 4393)

Nós mesmos somos os informantes que fornecem à rede os dados brutos a nosso respeito.

Yuval Noah Harari - Nexus (p. 4424)

No futuro, os algoritmos podem até vir a criar um modelo inteiramente novo de radicalização das pessoas, apenas identificando padrões na vida de terroristas conhecidos.

Meu comentário

Isso não me parece muito absurdo de ser construído.

Yuval Noah Harari - Nexus (p. 4443)

Burocratas inorgânicos podem estar “ligados” 24 horas por dia e nos monitorar e interagir conosco em qualquer lugar, a qualquer momento. Isso significa que burocracia e vigilância não são mais coisas inerentes a momentos e lugares específicos.

Yuval Noah Harari - Nexus (p. 4447)

Os peixes vivem na água, os humanos, numa burocracia digital, inalando e exalando dados o tempo todo. Tudo o que fazemos deixa um rastro de dados, que são coletados e analisados para identificar padrões.

Yuval Noah Harari - Nexus (p. 4449)

Para o bem ou para o mal, a burocracia digital pode não apenas monitorar o que fazemos no mundo, mas até observar o que acontece dentro do nosso corpo.

Yuval Noah Harari - Nexus (p. 4466)

Em tese, os ditadores do futuro podem fazer com que sua rede de computadores vá bem mais longe do que simplesmente observar os nossos olhos. Se a rede quiser saber as nossas opiniões políticas, os nossos traços de personalidade ou a nossa orientação sexual, pode monitorar processos dentro do nosso coração e do nosso cérebro.

Yuval Noah Harari - Nexus (p. 4485)

Portanto, embora a coleta de dados dentro do cérebro das pessoas já seja mais viável, usar esses dados para decifrar os nossos segredos está bem longe de ser simples.

Yuval Noah Harari - Nexus (p. 4489)

As pessoas deveriam se preocupar com os smartphones nos quais leem essas teorias da conspiração.

Yuval Noah Harari - Nexus (p. 4500)

A rede pode aprender exatamente o que deixa cada ser humano irritado, amedrontado ou alegre. Ela poderia então prever e manipular nossos sentimentos, vendendo-nos o que bem entendesse — um produto, um político, uma guerra.20

Yuval Noah Harari - Nexus (p. 4503)

Num mundo em que humanos monitoram humanos, a privacidade sempre foi a norma. Mas, num mundo em que computadores monitoram humanos, pode ser possível, pela primeira vez na história, eliminar a privacidade por completo.

Yuval Noah Harari - Nexus (p. 4521)

Por exemplo, quando cidadãos pedem passaporte, mais de 140 países os obrigam a tirar impressões digitais e a fazer escaneamento facial ou da íris.24 E, ao apresentarmos nossos passaportes para entrar num país, quase sempre esse país também exige que lhe forneçamos impressões digitais e escaneamento facial ou da íris.

Meu comentário

Isso é extremamente comum

Yuval Noah Harari - Nexus (p. 4526)

No total, em 2023 mais de 1 bilhão de câmeras de circuito fechado operavam globalmente, o que significa, em média, uma câmera para cada oito pessoas.

Yuval Noah Harari - Nexus (p. 4552)

Algoritmos de reconhecimento facial e bancos de dados pesquisáveis por ia são agora usados rotineiramente por forças policiais no mundo inteiro. São empregados não apenas em casos de emergência nacional ou por razões de segurança do Estado, mas em tarefas diárias da polícia.

Yuval Noah Harari - Nexus (p. 4575)

Nas mãos erradas, as mesmas técnicas que ajudam a localizar desordeiros, resgatar crianças desaparecidas e banir arruaceiros do futebol também podem ser usadas para perseguir manifestantes pacíficos, ou para impor um conformismo rígido.

Yuval Noah Harari - Nexus (p. 4613)

O depoimento de Maryam indica que a ia envia suas mensagens de ameaça em segundos, sem dar tempo para que um humano examine e autorize o procedimento.

Meu comentário

É isso é um tipo de problema em qualquer sistema de IA

Yuval Noah Harari - Nexus (p. 4640)

Mesmo em Nova York, um cônjuge pode ser monitorado e cerceado, como se vivesse num Estado totalitário.41

Meu comentário

A capacidade de monitoramento é absurda

Yuval Noah Harari - Nexus (p. 4649)

A estudiosa americana Shoshana Zuboff denominou esse sistema de monitoramento comercial em eterna expansão de “capitalismo de vigilância”.

Yuval Noah Harari - Nexus (p. 4662)

Isso é vigilância entre pares. Todo mundo, o tempo todo, avalia todo mundo.

Yuval Noah Harari - Nexus (p. 4677)

Agora, quando clientes entram num táxi ou numa barbearia, vêm armados de câmera, de microfone, de uma rede de vigilância, e com milhares de possíveis espectadores a tiracolo.47 É a base de uma rede de vigilância não governamental entre pares.

Yuval Noah Harari - Nexus (p. 4682)

É o sistema de crédito social, que procura avaliar as pessoas em todas as situações e produzir uma nota pessoal geral que influenciará tudo.

Yuval Noah Harari - Nexus (p. 4694)

O que os sistemas de crédito social buscam é uma avaliação padronizada do mercado de reputação.

Yuval Noah Harari - Nexus (p. 4698)

Uma diferença importante entre dinheiro e reputação é que o dinheiro tende a ser uma construção matemática baseada em cálculos precisos, ao passo que a esfera da reputação resiste à avaliação numérica precisa.

Yuval Noah Harari - Nexus (p. 4707)

Essa diferença entre o escrupuloso mercado de dinheiro e o mal definido mercado da reputação ainda existe.

Yuval Noah Harari - Nexus (p. 4718)

Há quem veja nos sistemas de crédito social uma forma de recompensar comportamentos pró-sociais, punir atos egoístas e criar sociedades mais educadas e harmoniosas.

Yuval Noah Harari - Nexus (p. 4722)

Mas há também quem considere humilhantes e desumanos sistemas que atribuem valores precisos a todas as ações sociais. Pior ainda: um sistema de crédito social abrangente acabaria com a privacidade e transformaria a vida numa interminável entrevista de emprego.

Yuval Noah Harari - Nexus (p. 4727)

O crédito social pode, portanto, se tornar um sistema de controle totalitário.

Yuval Noah Harari - Nexus (p. 4738)

A vida era dividida em esferas de reputação separadas, com competições de status separadas, além de haver muitos momentos em que você estava sozinho e não precisava participar de competição nenhuma.

Yuval Noah Harari - Nexus (p. 4742)

Infelizmente, algoritmos de crédito social combinados com tecnologias de vigilância onipresentes ameaçam fundir todas as competições de status numa corrida única e interminável.

Yuval Noah Harari - Nexus (p. 4750)

As redes de seres humanos estão igualmente sujeitas a ciclos biológicos. Às vezes estão ligadas; às vezes, desligadas.

Yuval Noah Harari - Nexus (p. 4753)

Já as redes de computadores podem estar sempre ligadas. Consequentemente, os computadores estão forçando os seres humanos a uma nova forma de existência na qual estamos sempre conectados e somos sempre monitorados.

Yuval Noah Harari - Nexus (p. 4759)

Precisamos impedir que a rede de computadores assuma o controle total da sociedade, não só para nos dar uma folga.

Yuval Noah Harari - Nexus (p. 4760)

Se a rede continuar a evoluir em ritmo acelerado, os erros vão se acumular bem mais depressa do que a nossa capacidade de identificá-los e corrigi-los.

Yuval Noah Harari - Nexus (p. 4763)

Mas isso não significa que a rede de computadores sempre compreenderá o mundo com precisão. Informação não é verdade.

Yuval Noah Harari - Nexus (p. 4764)

Um sistema de vigilância total pode dar origem a uma compreensão muito distorcida do mundo e dos seres humanos. Em vez de descobrir a verdade sobre o mundo e sobre nós, a rede pode usar seu imenso poder para criar uma nova espécie de ordem mundial e nos impor essa ordem.

Yuval Noah Harari - Nexus (p. 4785)

Essa história revela um fato crucial e perturbador sobre redes de informação, e em particular sobre sistemas de vigilância. Como discutido em capítulos anteriores, e contrariando a visão ingênua, as informações costumam ser usadas para criar ordem, e não para descobrir a verdade.

Yuval Noah Harari - Nexus (p. 4801)

Tal como definido pelo filósofo dissidente e satirista Aleksandr Zinovyev, Homo sovieticus eram seres humanos servis e cínicos, sem iniciativa alguma ou pensamento independente, obedecendo com passividade até mesmo às ordens mais ridículas, e indiferentes aos resultados de suas ações.

Yuval Noah Harari - Nexus (p. 4812)

os algoritmos do Facebook e do YouTube criaram trolls da internet, premiando certos instintos primitivos ao mesmo tempo que pune os nossos impulsos mais nobres e virtuosos.

Yuval Noah Harari - Nexus (p. 4830)

é notável que muitos dos principais apoiadores e assessores de Bolsonaro tenham sido originalmente youtubers que alcançaram fama e poder pela graça algorítmica.

Meu comentário

Esse é realmente um ponto bastante interessante no que diz respeito a política brasileira

Yuval Noah Harari - Nexus (p. 4846)

Claro, os algoritmos do YouTube não são responsáveis por inventar mentiras e teorias da conspiração, nem por criar conteúdos extremistas. Pelo menos em 2017-8, tudo isso era feito por seres humanos. Os algoritmos eram responsáveis, no entanto, por incentivar seres humanos a se comportarem dessa maneira e por promover o conteúdo resultante a fim de maximizar o engajamento dos usuários.

Yuval Noah Harari - Nexus (p. 4855)

Chegamos a um ponto decisivo da história no qual importantes processos históricos são, em parte, causados por decisões de inteligência não humana. É isso que torna tão perigosa a falibilidade da rede de computadores.

Meu comentário

É isso é o que me dá mais medo com toda a certeza

Yuval Noah Harari - Nexus (p. 4871)

Dessa maneira, as gigantes da tecnologia sempre deslocam o foco da discussão para sua difícil e positiva função de moderadoras de conteúdo produzido pelos humanos. Com isso fazem parecer que só os humanos causam problemas e os algoritmos fazem o melhor que podem para conter seus excessos.

Yuval Noah Harari - Nexus (p. 4894)

Os humanos são seres bastante complexos, e ordens sociais bem-intencionadas buscam maneiras de cultivar nossas virtudes ao mesmo tempo que reprimem nossas tendências negativas.

Yuval Noah Harari - Nexus (p. 4896)

Os algoritmos reduziram a multifacetada gama de emoções humanas — ódio, amor, indignação, alegria, confusão — a uma única categoria: engajamento.

Yuval Noah Harari - Nexus (p. 4926)

Em vez de investirem em mecanismos de autocorreção que recompensassem a disseminação da verdade, as gigantes das redes sociais desenvolveram mecanismos inéditos de amplificação de erros, que recompensavam mentiras e ficções.

Meu comentário

Mecanismos de autocorreção solo fundamentais para uns estrutura saudável de comunicação publica.

Yuval Noah Harari - Nexus (p. 4939)

Não é que o Facebook e outras redes sociais tenham decidido inundar o mundo de fake news e conteúdos revoltantes de forma consciente. Mas acabaram perpetrando justamente isso ao instruir seus algoritmos a maximizarem o engajamento dos usuários.

Meu comentário

Esse é o problema de deixar a decisão sem medidas de consequências claras

Yuval Noah Harari - Nexus (p. 4962)

A maior parte do conteúdo das redes sociais — pelo menos até o surgimento de poderosas ias generativas — é produzida pelos próprios usuários, e por seus cães e gatos, e não por uma classe profissional específica.

Yuval Noah Harari - Nexus (p. 4971)

o problema do alinhamento. Os computadores, quando são instruídos a atingir um objetivo específico, como aumentar o tráfego do YouTube para 1 bilhão de horas por dia, usam todo o seu poder e toda a sua engenhosidade para cumprir a missão. Como operam de maneira bem diferente dos humanos, são propensos a lançar mão de métodos que seus superiores humanos não previram. Isso pode ter consequências perigosas e inesperadas, desconectadas dos objetivos humanos originais.

Yuval Noah Harari - Nexus (p. 4982)

Da guerra criou um modelo racional para o entendimento da guerra e ainda é a teoria militar dominante. Sua máxima é que “a guerra é a continuação da política por outros meios”.23 Isso implica que a guerra não é uma explosão emocional, uma aventura heroica ou um castigo divino. A guerra não é sequer um fenômeno militar. É, na verdade, uma ferramenta política. Segundo Clausewitz, ações militares são absolutamente irracionais se não estiverem alinhadas com algum objetivo político geral.

Yuval Noah Harari - Nexus (p. 5019)

O modelo constrói uma clara hierarquia entre política de longo prazo, estratégia de médio prazo e táticas de curto prazo. As táticas só são racionais se estiverem alinhadas com algum objetivo estratégico, e a estratégia só é racional se estiver alinhada com algum objetivo político.

Yuval Noah Harari - Nexus (p. 5033)

Como discutido no capítulo 3, dividindo a realidade em gavetas separadas, a burocracia incentiva a busca de metas limitadas mesmo quando isso prejudica o bem maior.

Yuval Noah Harari - Nexus (p. 5054)

O argumento de Bostrom é de que o problema dos computadores não é serem especialmente maldosos, mas poderosos.

Yuval Noah Harari - Nexus (p. 5065)

Por serem entidades inorgânicas, eles são propensos a adotar estratégias que jamais ocorreriam a nenhum ser humano e que não estamos preparados para prever e evitar.

Yuval Noah Harari - Nexus (p. 5080)

Essa é a essência do problema do alinhamento: recompensar A enquanto esperamos que B aconteça.27 Se quisermos que os computadores maximizem benefícios sociais, é má ideia recompensá-los por maximizar o engajamento dos usuários.

Meu comentário

Esse é um ponto fundamental sempre é para qualquer IA de aprendizado

Yuval Noah Harari - Nexus (p. 5102)

A teoria de Clausewitz, apesar de exigir que todas as ações estejam alinhadas com o objetivo final, não oferece uma maneira racional de definir esse objetivo.

Yuval Noah Harari - Nexus (p. 5116)

Uma manobra tática será racional se, e apenas se, estiver alinhada com algum objetivo estratégico mais elevado, o qual, por sua vez, precisa estar alinhado com objetivos políticos ainda mais altos. Mas onde começa essa cadeia de objetivos?

Yuval Noah Harari - Nexus (p. 5119)

Um objetivo alto como esse não pode, por definição, estar alinhado com nada mais elevado do que ele mesmo, porque não existe nada mais elevado.

Yuval Noah Harari - Nexus (p. 5145)

Se nossa única regra na vida é “toda ação tem que estar alinhada a um objetivo mais elevado”, por definição não existe um modo racional de definir esse objetivo final.

Yuval Noah Harari - Nexus (p. 5152)

Os deontologistas (do grego deon, que significa “dever”) acreditam que existem algumas obrigações morais, ou regras morais, que se aplicam a todos. Essas regras não dependem de alinhamento com um objetivo mais alto, mas, sim, da própria bondade intrínseca.

Yuval Noah Harari - Nexus (p. 5185)

Na história, muitos conflitos, talvez até a maioria, têm a ver com a definição de identidades. Todo mundo concorda que assassinato é errado, mas pensa que apenas matar membros do próprio grupo se qualificaria como “assassinato”, enquanto matar alguém de outro grupo, não.

Yuval Noah Harari - Nexus (p. 5198)

Embora o sofrimento seja, muitas vezes, causado pela crença em mitos intersubjetivos locais, o sofrimento, em si, é uma realidade universal. Portanto, usar a capacidade de sofrer como critério para definir quem pertence ao grupo relevante fundamenta a moralidade numa realidade objetiva e universal.

Meu comentário

Uma definição que leve em consideração o sofrimento parece fazer bastante sentido.

Yuval Noah Harari - Nexus (p. 5205)

Enquanto os deontologistas se esforçam para descobrir regras universais que sejam intrinsecamente boas, os utilitaristas julgam as ações pelo seu impacto no sofrimento e na felicidade.

Yuval Noah Harari - Nexus (p. 5215)

O problema para os utilitaristas é não possuirmos um cálculo de sofrimento. Não sabemos quantos “pontos de sofrimento” ou “pontos de felicidade” atribuir a este ou aquele evento, de modo que, em situações complexas, é muito difícil calcular se determinada ação aumenta ou diminui a quantidade total de sofrimento no mundo.

Yuval Noah Harari - Nexus (p. 5253)

A morte é a causa profunda da nossa miséria, ou nossa miséria vem da nossa tentativa de negar a morte?

Yuval Noah Harari - Nexus (p. 5260)

Assim como deontologistas que tentam responder à questão da identidade são levados a adotar ideias utilitaristas, utilitaristas frustrados com a falta de um cálculo de sofrimento acabam, muitas vezes, adotando uma posição deontológica.

Yuval Noah Harari - Nexus (p. 5270)

O perigo do utilitarismo é que, se você acreditar com força suficiente numa utopia futura, essa crença pode se tornar uma licença para infligir sofrimentos terríveis no presente. Na verdade, esse é um truque que as religiões tradicionais descobriram há milhares de anos. Os crimes e as injustiças deste mundo poderiam ser facilmente tolerados pelas promessas de salvação futura.

Yuval Noah Harari - Nexus (p. 5284)

No entanto, uma das coisas mais importantes que devemos ter em mente em relação aos computadores é que, quando trabalham juntos e se comunicam entre si, muitos computadores podem criar realidades intercomputadores análogas às realidades intersubjetivas produzidas por redes de humanos.

Yuval Noah Harari - Nexus (p. 5294)

Assim como realidades intersubjetivas, do tipo dinheiro e deus, podem influenciar a realidade física fora da cabeça das pessoas, as realidades intercomputadores podem influenciar a realidade fora dos computadores.

Meu comentário

Exemplo do pokemon go e outros jogos que tiveram impactos no mundo real.

Yuval Noah Harari - Nexus (p. 5309)

A classificação em si é uma realidade intercomputadores, existindo numa rede que conecta bilhões de computadores — a internet.

Meu comentário

Essa realidade é construída pela relação entre pessoas e sistemas de informação.

Yuval Noah Harari - Nexus (p. 5329)

Por milhares de anos, guerras foram travadas em torno de entidades intersubjetivas como pedras sagradas. No século xxi, pode ser que venhamos a testemunhar guerras travadas em torno de entidades intercomputadores.

Yuval Noah Harari - Nexus (p. 5346)

A lei americana já reconhece corporações como pessoas jurídicas, possuidoras de direitos como liberdade de expressão. No caso Citizens United v. Federal Election Comission (2010), a Suprema Corte dos Estados Unidos decidiu que isso protege até o direito de as corporações fazerem doações políticas.52 O que impediria as ias de serem reconhecidas como pessoas jurídicas com liberdade de expressão e de fazerem lobby e doações políticas para proteger e ampliar os seus direitos?

Meu comentário

Que?????

Yuval Noah Harari - Nexus (p. 5384)

À medida que substituem seres humanos nas burocracias, da cobrança de impostos à assistência médica e à distribuição de justiça, os computadores também podem criar uma mitologia e nos impor essa mitologia com uma eficiência sem precedentes.

Yuval Noah Harari - Nexus (p. 5405)

Ser pecador ou santo vai depender de cálculos algorítmicos, não de crenças humanas. Esse sistema estaria descobrindo a verdade sobre as pessoas ou impondo uma ordem a elas?

Meu comentário

Aqui me parece ter um problema entre classificação e regressão.

Yuval Noah Harari - Nexus (p. 5444)

O princípio fundamental do aprendizado de máquina é que algoritmos podem aprender coisas novas sozinhos interagindo com o mundo, da mesma forma como os humanos fazem, produzindo assim uma inteligência artificial plenamente desenvolvida.

Yuval Noah Harari - Nexus (p. 5451)

Na verdade, essas tecnologias estão equipadas com robustos mecanismos de autocorreção, que lhes permitem aprender com os próprios erros.

Meu comentário

Esse é provavelmente o principal ponto de uma IA.

Yuval Noah Harari - Nexus (p. 5474)

Mas quando se treina um algoritmo para contratar pessoal, por exemplo, como definir o objetivo? Como o algoritmo vai saber que cometeu um erro e contratou a pessoa “errada”?

Yuval Noah Harari - Nexus (p. 5482)

Infelizmente, se empresas reais no mundo real já sofrem de preconceitos arraigados, é provável que o algoritmo-bebê assimile esses preconceitos, e até mesmo os amplie.

Yuval Noah Harari - Nexus (p. 5503)

Se não nos livrarmos do preconceito logo no início, os computadores podem não só perpetuá-lo, como também ampliá-lo.

Yuval Noah Harari - Nexus (p. 5509)

Vários dos preconceitos algorítmicos analisados neste capítulo e em capítulos anteriores compartilham um problema fundamental: o computador supõe ter descoberto alguma verdade sobre os humanos quando, na verdade, apenas lhes impôs uma ordem.

Meu comentário

Ponto chave muito forte. Esse é provavelmente um dos pontos mais críticos de viés algorítmica.

Yuval Noah Harari - Nexus (p. 5533)

E é bastante provável que os computadores, se forem investidos de poder, de fato provoquem desastres, pois são falíveis.

Yuval Noah Harari - Nexus (p. 5534)

Dizer que os computadores são falíveis significa muito mais do que dizer que eles de vez em quando cometem um erro factual ou tomam uma decisão equivocada. Mais importante é que, como a rede humana antes dela, a rede de computadores pode não encontrar mais o equilíbrio perfeito entre verdade e ordem. Criando e nos impondo poderosos mitos intercomputadores, a rede de computadores poderia provocar calamidades históricas perto das quais a caça às bruxas ou a coletivização de Stálin vão parecer tímidas.

Yuval Noah Harari - Nexus (p. 5552)

Algoritmos-bebês deveriam aprender a duvidar de si mesmos, a sinalizar incerteza e a obedecer princípios de precaução. Isso não é impossível. Engenheiros já lograram considerável avanço ao incentivar ias a expressar dúvidas sobre si mesmas, pedir feedback e reconhecer erros.

Yuval Noah Harari - Nexus (p. 5563)

Para nos protegermos de uma infinidade de problemas imprevisíveis, o melhor que podemos fazer é criar instituições vivas capazes de identificar e responder às ameaças à medida que forem surgindo.

Yuval Noah Harari - Nexus (p. 5568)

Para concluir, a nova rede de computadores não será necessariamente boa ou má. O que sabemos ao certo é que será alienígena e falível, e que precisamos, portanto, construir instituições capazes de checar não apenas fraquezas humanas conhecidas, como a ganância e o ódio, mas também erros alienígenas radicais.

Yuval Noah Harari - Nexus (p. 5576)

As civilizações nascem do casamento entre burocracia e mitologia.

Yuval Noah Harari - Nexus (p. 5588)

Mesmo que, ao fim, os aspectos positivos dessas tecnologias superem os negativos, haverá diversas provações e tribulações até se chegar a esse final feliz.

Yuval Noah Harari - Nexus (p. 5589)

Uma tecnologia nova muitas vezes conduz a calamidades históricas, não porque a tecnologia é intrinsecamente má, mas porque leva tempo até que os seres humanos aprendam a usá-la com sabedoria.

Yuval Noah Harari - Nexus (p. 5601)

Alguns imperialistas argumentavam que a aquisição de colônias era não só essencial para a sobrevivência de seus próprios Estados, como também benéfica para o restante da humanidade. Alegavam que os impérios sozinhos seriam capazes de espalhar as bênçãos das novas tecnologias ao mundo dito subdesenvolvido.

Yuval Noah Harari - Nexus (p. 5619)

A própria existência de receitas rivais para a construção de sociedades industriais levava a choques e conflitos custosos. As duas guerras mundiais e a Guerra Fria podem ser vistas como um debate sobre a maneira adequada de avançar, em que todos os lados aprendiam uns com os outros, ao experimentar os novos métodos industriais para travar guerra.

Yuval Noah Harari - Nexus (p. 5634)

Mas, apesar disso, a mensagem para o século xxi é desoladora. Se a humanidade precisou de tantas lições terríveis para aprender a usar a energia a vapor e os telégrafos, qual será o preço de aprender a usar a bioengenharia e a ia?

Meu comentário

Esse é um ponto interessante. As tecnologias sempre tiveram impactos positivos e negaticos. Quanto maiores forem as suas capacidades maiores os impactos em ambos os lados.

Yuval Noah Harari - Nexus (p. 5643)

Em vista da nossa incapacidade de prever como se desenvolverá a nova rede computacional, nossa melhor chance de evitar a catástrofe neste século é manter mecanismos autocorretores democráticos, capazes de identificar e corrigir erros conforme avançamos.

Yuval Noah Harari - Nexus (p. 5674)

O primeiro princípio é a benevolência. Quando uma rede computacional coleta informação sobre mim, essa informação deve ser usada para me ajudar, e não para me manipular.

Yuval Noah Harari - Nexus (p. 5683)

O acesso à nossa vida pessoal vem acompanhado por um dever fiduciário de agir em função de nossos melhores interesses.

Yuval Noah Harari - Nexus (p. 5692)

Ou, como alternativa, os cidadãos poderiam considerar alguns serviços digitais tão fundamentais que deveriam ser gratuitos para todos.

Meu comentário

Seria interessante ter um modelo de rede socialbl publica? Imagine um pix social?

Yuval Noah Harari - Nexus (p. 5695)

O segundo princípio que protegeria a democracia contra o surgimento de regimes de vigilância totalitários é a descentralização. Uma sociedade democrática nunca deve permitir que toda sua informação fique concentrada num único lugar, quer essa central seja o governo ou uma empresa privada.

Yuval Noah Harari - Nexus (p. 5701)

Para a sobrevivência da democracia, certo grau de ineficiência é uma funcionalidade, não uma falha.

Meu comentário

Às vezes a ineficiência e uma funcionalidade necessária. Imagine o ensino a distância vs presencial

Yuval Noah Harari - Nexus (p. 5709)

Um terceiro princípio democrático é a mutualidade. Se as democracias aumentam a vigilância sobre os indivíduos, eles devem, ao mesmo tempo, aumentar a vigilância sobre os governos e também sobre as corporações.

Yuval Noah Harari - Nexus (p. 5719)

Se eles sabem mais a nosso respeito e, ao mesmo tempo, nós sabemos mais a respeito deles, o equilíbrio está mantido. A ideia não é nova.

Yuval Noah Harari - Nexus (p. 5725)

Um quarto princípio democrático é que os sistemas de vigilância sempre devem deixar espaço para mudar e descansar. Na história humana, a opressão pode assumir a forma de negar aos seres humanos a capacidade de mudar ou a oportunidade de descansar.

Yuval Noah Harari - Nexus (p. 5737)

As sociedades democráticas que empregam uma poderosa tecnologia de vigilância precisam, portanto, ter cuidado com os dois extremos: o excesso de rigidez e o excesso de maleabilidade.

Yuval Noah Harari - Nexus (p. 5759)

A vida humana é um ato de equilíbrio entre tentar melhorar a nós mesmos e aceitar quem somos.

Yuval Noah Harari - Nexus (p. 5762)

A história é repleta de rígidos sistemas de casta que negavam aos seres humanos a capacidade de mudar, mas também é repleta de ditadores que tentavam moldar os seres humanos como se fossem argila.

Yuval Noah Harari - Nexus (p. 5781)

É altamente improvável que até 2050 tenham desaparecido todos os empregos humanos. O verdadeiro problema na verdade é a correria e a confusão para se adaptar a novos empregos e condições.

Yuval Noah Harari - Nexus (p. 5787)

Por exemplo, os intelectuais tendem a valorizar mais as habilidades intelectuais do que as sociais e motoras. Mas, na verdade, é mais fácil automatizar o jogo de xadrez do que, digamos, a lavagem de pratos.

Meu comentário

Tá aí um exemplo interessante de divergência entre mundo intelectual e braçal que pode ter grande um pó actonofuturo

Yuval Noah Harari - Nexus (p. 5804)

Outra suposição corrente, mas equivocada, é de que a criatividade é exclusiva dos seres humanos, de forma que seria difícil automatizar qualquer tarefa que demande criatividade.

Yuval Noah Harari - Nexus (p. 5810)

Uma terceira suposição equivocada é a de que os computadores não conseguiriam substituir os seres humanos em tarefas que demandam inteligência emocional, desde terapeutas até professores.

Yuval Noah Harari - Nexus (p. 5846)

Em decorrência disso, quando avaliamos a probabilidade de que vários serviços e papéis sociais sejam automatizados, uma questão fundamental é saber o que as pessoas realmente querem. Querem apenas resolver um problema, ou estão tentando estabelecer uma relação com outro ser consciente?

Yuval Noah Harari - Nexus (p. 5860)

Alegadamente, apenas uma entidade capaz de sentir dor e amor pode também nos conectar com o divino.

Yuval Noah Harari - Nexus (p. 5862)

como os sacerdotes — podem vir a ser assumidas pelos computadores, pois, como notamos no capítulo 6, é possível que algum dia os computadores consigam adquirir a capacidade de sentir dor e amor. Mesmo que não consigam, os seres humanos podem vir a tratá-los como se conseguissem, pois a conexão entre consciência e relacionamentos opera nos dois sentidos.

Yuval Noah Harari - Nexus (p. 5869)

Consideramos que as entidades são conscientes não porque tenhamos provas disso, mas porque nos tornamos emocionalmente ligados a elas.

Meu comentário

Esse é um argumento interessante

Yuval Noah Harari - Nexus (p. 5877)

O que está claro é que o futuro do emprego será muito volátil. Nosso grande problema não será a absoluta falta de empregos, mas, sim, a reciclagem e a adaptação a um mercado de trabalho em constante transformação.

Yuval Noah Harari - Nexus (p. 5890)

Os progressistas tendem a subestimar a importância das tradições e das instituições existentes e a crer que são capazes de criar estruturas sociais melhores a partir do zero. Os conservadores tendem a ser mais cautelosos. Sua percepção central, que teve sua formulação mais famosa nas palavras de Edmund Burke, é que a realidade social é bem mais complicada do que percebem os paladinos do progresso e que as pessoas não são muito boas em entender o mundo e prever o futuro. É por isso que é melhor deixar as coisas como estão — mesmo que pareçam injustas —, e se alguma mudança for inevitável, que seja gradual e limitada.

Yuval Noah Harari - Nexus (p. 5913)

Dizem que as instituições existentes são tão disfuncionais que simplesmente não há outra alternativa senão construir estruturas inteiramente novas. Mas essa visão, quer seja correta ou errada, é, em essência, revolucionária, e não conservadora.

Yuval Noah Harari - Nexus (p. 5942)

A habilidade humana mais importante para sobreviver ao século xxi é, provavelmente, a flexibilidade, e as democracias são mais flexíveis do que os regimes totalitários.

Yuval Noah Harari - Nexus (p. 5954)

Se cidadãos, legisladores, jornalistas e juízes não conseguem entender como opera o sistema burocrático do Estado, não conseguem mais supervisioná-lo e perdem a confiança nele.

Meu comentário

Transparência e fundamental

Yuval Noah Harari - Nexus (p. 6010)

Os juízes argumentaram que o uso da avaliação algorítmica dos riscos é legítimo mesmo quando a metodologia do algoritmo não é revelada ao tribunal nem ao réu.

Meu comentário

Que??!!??!!

Yuval Noah Harari - Nexus (p. 6033)

Conforme a sociedade entrega um número sempre maior de decisões aos computadores, ela enfraquece a viabilidade de mecanismos autocorretores democráticos e da prestação de contas e transparência democráticas.

Yuval Noah Harari - Nexus (p. 6035)

o direito a uma explicação. O Regulamento Geral de Proteção de Dados da União Europeia (gdpr), que entrou em vigor em 2018, estabelece que, se um algoritmo toma uma decisão sobre um ser humano — negando-nos crédito, por exemplo —, essa pessoa tem o direito de obter uma explicação sobre a decisão e de contestar essa decisão perante alguma autoridade humana.

Yuval Noah Harari - Nexus (p. 6064)

Segundo, o movimento 37 demonstrou a insondabilidade da ia. Mesmo depois que o AlphaGo fez esse movimento para conquistar a vitória, Suleyman e sua equipe não conseguiram explicar como o AlphaGo decidira fazê-lo.

Yuval Noah Harari - Nexus (p. 6069)

Muitas tecnologias e sistemas estão se tornando tão complexos que extrapolam a capacidade de qualquer indivíduo de realmente entendê-los […]. Hoje, na ia, as redes neurais que estão avançando para a autonomia não são explicáveis.

Yuval Noah Harari - Nexus (p. 6075)

O surgimento de uma inteligência estranha insondável enfraquece a democracia. Se as decisões sobre a vida das pessoas são tomadas em quantidades cada vez maiores dentro de uma caixa-preta, de modo que os cidadãos não conseguem entendê-las e questioná-las, a democracia deixa de funcionar.

Yuval Noah Harari - Nexus (p. 6088)

A crescente insondabilidade de nossa rede de informação é uma das razões da recente onda de partidos populistas e líderes carismáticos. Quando as pessoas não conseguem mais entender o mundo e se sentem inundadas por uma enxurrada de informações que não conseguem digerir, elas se tornam presa fácil de teorias conspiratórias e buscam salvação em algo que entendam — um ser humano.

Yuval Noah Harari - Nexus (p. 6097)

Somos tão inábeis em sopesar juntos muitos fatores diferentes que, quando as pessoas apresentam várias razões para determinada decisão, isso tende a parecer suspeito.

Yuval Noah Harari - Nexus (p. 6124)

Você pode achar que foi injustamente tratado pelo banco e se queixa: “É razoável recusar meu pedido de empréstimo só porque a bateria de meu celular estava com pouca carga?”. Mas não adiantaria. “A bateria não foi a única razão”, o banco explicaria. “Foi apenas um dos mil fatores que nosso algoritmo levou em conta.”

Yuval Noah Harari - Nexus (p. 6133)

Na verdade, o problema de muitos preconceitos humanos é que eles se concentram em apenas um ou dois pontos de dados

Yuval Noah Harari - Nexus (p. 6140)

Não é só a questão de termos de levar em conta numerosos pontos de dados. O mais importante, talvez, é que não conseguimos entender como os algoritmos encontram padrões nos dados e decidem a atribuição de pontos.

Yuval Noah Harari - Nexus (p. 6146)

Há, porém, uma réstia de luz nessa nuvem opaca de números. Um leigo pode ser incapaz de verificar algoritmos complexos, mas uma equipe de especialistas, trabalhando com seus próprios ajudantes de ia, é potencialmente capaz de avaliar a equidade de decisões algorítmicas de modo ainda mais confiável

Yuval Noah Harari - Nexus (p. 6161)

Assim como frequentemente é melhor usar um ladrão para pegar outro ladrão, também podemos usar um algoritmo para examinar outro algoritmo.

Yuval Noah Harari - Nexus (p. 6201)

A nova rede computacional impõe uma última ameaça à democracia. Em vez do totalitarismo digital, ela pode fomentar a anarquia digital.

Yuval Noah Harari - Nexus (p. 6203)

Para funcionar, uma democracia precisa atender a duas condições: possibilitar uma livre conversa pública sobre questões-chave e manter um mínimo de ordem social e confiança institucional.

Yuval Noah Harari - Nexus (p. 6212)

Sempre que novos grupos entram na conversa, eles trazem novos interesses e novos pontos de vista, e muitas vezes questionam o consenso anterior sobre a condução do debate e a tomada de decisões. As regras de discussão precisam ser renegociadas.

Yuval Noah Harari - Nexus (p. 6238)

Se me envolvo num debate político online com uma ia, é perda de tempo tentar mudar as opiniões dela; sendo uma entidade não consciente, ela de fato não se importa com a política nem pode votar nas eleições. Mas, quanto mais eu falo com a ia, melhor ela passa a me conhecer e, assim, consegue ganhar minha confiança, aprimorar seus argumentos e, aos poucos, mudar minhas opiniões.

Yuval Noah Harari - Nexus (p. 6244)

E, por fim, os algoritmos não estão apenas entrando na conversa; cada vez mais são eles a orquestrá-la.

Yuval Noah Harari - Nexus (p. 6265)

O que se aplica à falsificação de dinheiro também pode se aplicar à falsificação de seres humanos. Se os governos adotaram medidas decisivas para proteger a confiança no dinheiro, faz sentido tomar medidas igualmente assertivas para proteger a confiança nos humanos.

Yuval Noah Harari - Nexus (p. 6270)

Assim, Dennett sugere que os governos venham a banir os seres humanos falsos de modo tão decidido quanto baniram o dinheiro falso.

Yuval Noah Harari - Nexus (p. 6281)

Outra medida importante que as democracias podem adotar é impedir que algoritmos não supervisionados cuidem de debates públicos de grande importância.

Yuval Noah Harari - Nexus (p. 6291)

O que quero apontar aqui é que apenas as democracias podem regular o mercado de informação e que a própria sobrevivência delas depende dessas regulações.

Yuval Noah Harari - Nexus (p. 6319)

A verdade é que, embora possamos ver facilmente que a rede de informação democrática está se desafazendo, não sabemos com certeza a razão. Isso é, em si, uma característica dos tempos. A rede de informação se tornou tão complicada e tão dependente de decisões algorítmicas e entidades intercomputadores opacas que ficou bastante difícil respondermos até mesmo à mais básica das perguntas políticas: por que estamos brigando uns com os outros?

Yuval Noah Harari - Nexus (p. 6337)

O totalitarismo procura canalizar toda a informação para um centro único, onde faz seu processamento. Tecnologias como o telégrafo, o telefone, a máquina datilográfica e o rádio facilitavam a centralização da informação, mas não conseguiam processá-la nem tomar decisões por si sós. Isso continuava a ser tarefa apenas de seres humanos.

Yuval Noah Harari - Nexus (p. 6346)

Inundar as pessoas com dados tende a sobrecarregá-las e levá-las a erro, ao passo que inundar ias com dados tende a torná-las mais eficientes. Em decorrência disso, a ia parece favorecer a concentração da informação e da tomada de decisões num único local.

Yuval Noah Harari - Nexus (p. 6369)

A tentativa de concentrar toda a informação e poder num único local, que era o calcanhar de aquiles dos regimes totalitários do século xx, pode se tornar uma vantagem decisiva na era da ia.

Yuval Noah Harari - Nexus (p. 6373)

Num sistema de blockchain, as decisões precisam da aprovação de 51% dos usuários. Isso pode parecer democrático, mas a tecnologia do blockchain tem um defeito fatal. O problema está na palavra “usuários”. Se uma pessoa tem dez contas, ela vale como dez usuários.

Yuval Noah Harari - Nexus (p. 6393)

Embora a ia possa consolidar o poder central de várias maneiras, os regimes autoritários e totalitários têm seus próprios problemas com ela. O primeiro e principal deles é que as ditaduras não têm experiência em controlar agentes inorgânicos.

Yuval Noah Harari - Nexus (p. 6407)

Os engenheiros humanos da Rússia podem se empenhar ao máximo para criar ias que sejam totalmente alinhadas com o regime, mas, devido à capacidade da ia de aprender e mudar por si mesma, como podem os engenheiros humanos garantir que ela nunca desvie de rumo e entre em território ilícito?

Yuval Noah Harari - Nexus (p. 6422)

Como me disse o guia ucraniano em Tchernóbil, as pessoas em países totalitários crescem com a ideia de que perguntar traz problema. Mas, se você treinar um algoritmo segundo o princípio de que “perguntar traz problema”, como o algoritmo vai aprender e se desenvolver?

Yuval Noah Harari - Nexus (p. 6426)

Mas como você vai treinar um chatbot a deixar pra lá que a política hoje condenada era a política oficial do ano passado? Esse é um grande problema tecnológico que as ditaduras terão dificuldade em enfrentar, especialmente à medida que os chatbots se tornam mais poderosos e opacos.

Yuval Noah Harari - Nexus (p. 6438)

A última coisa que um ditador quer é criar algo mais poderoso do que ele mesmo ou uma força que não consiga controlar.

Yuval Noah Harari - Nexus (p. 6451)

Ao dar tanto poder ao algoritmo Vigilância & Segurança, o Grande Líder se pôs numa situação insustentável. Se confiar no algoritmo, pode ser assassinado pelo ministro da Defesa, mas, se confiar no algoritmo e expurgar o ministro da Defesa, ele se tornará fantoche do algoritmo. Sempre que alguém tentar um movimento contra o algoritmo, o algoritmo sabe exatamente como manipular o Grande Líder.

Yuval Noah Harari - Nexus (p. 6461)

Tomar o poder num sistema altamente centralizado é muito mais fácil. Quando todo o poder está concentrado nas mãos de uma única pessoa, aquele que controla o acesso ao autocrata pode controlar o autocrata — e o Estado inteiro.

Yuval Noah Harari - Nexus (p. 6487)

O destino de Tibério mostra o equilíbrio delicado que todos os ditadores precisam alcançar. Eles tentam concentrar a informação num único lugar, mas devem cuidar para que os diversos canais de informação só possam se juntar em sua própria pessoa. Se os canais de informação se juntam em outro lugar, é este, então, que se torna o verdadeiro nexo do poder.

Yuval Noah Harari - Nexus (p. 6498)

Enquanto as democracias supõem que todos são falíveis, nos regimes totalitários o pressuposto fundamental é de que o partido dirigente ou o líder supremo sempre estão certos.

Yuval Noah Harari - Nexus (p. 6510)

Assim, a rede de computadores apresenta um dilema excruciante aos ditadores. Eles podem decidir escapar das garras de seus subalternos humanos confiando numa tecnologia supostamente infalível, e nesse caso podem se tornar fantoches da tecnologia. Ou podem montar uma instituição humana para supervisionar a ia, mas essa instituição, por sua vez, também poderia limitar o poder deles.

Meu comentário

Me parece que independentemente da rede de computadores um regime dtotalitario está fadado a fracassar em determinado momento

Yuval Noah Harari - Nexus (p. 6518)

A maneira mais fácil para uma ia tomar o poder não é saindo do laboratório do dr. Frankenstein, mas conquistando as graças de algum Tibério paranoico.

Meu comentário

E isso deveria ser extremamente preocupante, no sentido de que geraria facilmente uma IA dominante. Basta que ela tenha capacidade suficiente

Yuval Noah Harari - Nexus (p. 6529)

Alguns dos perigos mais graves postos pela ia não resultam da dinâmica interna de determinada sociedade humana. Pelo contrário, surgem da dinâmica que envolve muitas sociedades e que pode levar a novas corridas armamentistas, novas guerras e novas expansões imperiais.

Yuval Noah Harari - Nexus (p. 6543)

E se a ia sintetizar um vírus que seja tão fatal quanto o ebola, tão contagioso quanto a covid-19 e de tão lenta ação quanto a aids? No momento em que as primeiras vítimas começassem a morrer e o mundo fosse alertado sobre o perigo, a maioria das pessoas no mundo já poderia estar infectada.

Meu comentário

E isso me soa extremamente plausível de ser feito por algum istema inteligente a mando de algum governo/edtado

Yuval Noah Harari - Nexus (p. 6550)

Muitas sociedades — tanto democráticas quanto ditatoriais — podem agir com responsabilidade para regular esses usos da ia, refrear os vilões e conter as ambições perigosas de seus governantes e fanáticos. Mas, mesmo que apenas algumas sociedades não o façam, isso bastaria para pôr em risco toda a humanidade.

Yuval Noah Harari - Nexus (p. 6571)

Muita gente descreve o sistema internacional como uma selva. Se assim for, é uma selva em que os tigres permitem que as galinhas gordas vivam em relativa segurança.

Yuval Noah Harari - Nexus (p. 6577)

os computadores estabelecem dois desafios principais ao sistema internacional de hoje.

Yuval Noah Harari - Nexus (p. 6578)

Primeiro, visto que facilitam a concentração da informação e do poder num núcleo central, a humanidade poderia ingressar numa nova era imperial.

Yuval Noah Harari - Nexus (p. 6581)

Segundo, a humanidade poderia se dividir ao longo de uma Cortina de Silício que atravessaria impérios digitais rivais. Como cada regime escolhe sua resposta própria ao problema do alinhamento da ia, ao dilema do ditador e a outros dilemas tecnológicos, cada qual poderia criar uma rede computacional separada e muito diferente.

Yuval Noah Harari - Nexus (p. 6588)

Mas uma espécie humana dividida em campos hostis que não se entendem não tem muitas chances de evitar guerras devastadoras ou de impedir uma mudança climática catastrófica. Um mundo de impérios rivais separados por uma Cortina de Silício opaca também seria incapaz de regulamentar o poder explosivo da ia.

Yuval Noah Harari - Nexus (p. 6623)

Dispor de montes de dados facilita criar uma ia. E a ia pode converter montes de dados em montes de poder.

Yuval Noah Harari - Nexus (p. 6634)

O desafio de reconhecimento visual em grande escala da ImageNet testa vários algoritmos para ver a capacidade deles de identificar as imagens com tag na base de dados.

Yuval Noah Harari - Nexus (p. 6658)

Assim como no começo do século xix a construção de ferrovias se deu com o esforço pioneiro de empreendedores privados, da mesma forma, no início do século xxi, os principais competidores iniciais na corrida da ia eram corporações privadas.

Yuval Noah Harari - Nexus (p. 6691)

No século xxi, para dominar uma colônia, não é mais necessário enviar frotas armadas. O necessário é pegar os dados. Algumas poucas corporações ou governos colhendo os dados do mundo podem transformar o resto do globo em colônias de dados — territórios que eles controlam não com a força militar aberta, e sim com a informação.

Yuval Noah Harari - Nexus (p. 6699)

Tal situação pode levar a um novo tipo de colonialismo de dados, em que o controle dos dados é utilizado para dominar colônias distantes.

Meu comentário

Em grande parte me parece que já vivemos isso afinal que empresa não utiliza um pacote Google ou Microsoft?

Yuval Noah Harari - Nexus (p. 6717)

Assim como turistas usam os scores globais fornecidos por empresas estrangeiras como o TripAdvisor e a Airbnb para avaliar restaurantes e pousadas mesmo em seus próprios países, gente do mundo todo poderia começar a usar um score de crédito social chinês ou americano para interações sociais locais.

Meu comentário

E isso seria bizarramente factível

Yuval Noah Harari - Nexus (p. 6728)

Numa nova economia de informação imperial, a matéria-prima será colhida por todo o mundo e irá para o centro imperial. Lá se desenvolverá a tecnologia de ponta, produzindo algoritmos imbatíveis que sabem identificar gatos, prever tendências da moda, dirigir veículos autônomos e diagnosticar doenças. Esses algoritmos serão então exportados de volta para as colônias de dados. Os dados do Egito e da Malásia podem enriquecer uma corporação em San Francisco ou Beijing, enquanto persiste a pobreza do povo no Cairo e em Kuala Lumpur, porque não há redistribuição dos lucros nem do poder.

Yuval Noah Harari - Nexus (p. 6733)

Antigamente, o ativo econômico mais importante era a terra, não a informação. Isso impedia a excessiva concentração de toda a riqueza e poder num único centro. Como a terra era de máxima importância, os proprietários fundiários nas províncias sempre mantinham considerável poder e riqueza.

Yuval Noah Harari - Nexus (p. 6740)

Durante a Revolução Industrial, as máquinas se tornaram mais importantes do que a terra. Fábricas, minas, ferrovias e estações de energia elétrica se tornaram os ativos mais valiosos. Era um tanto mais fácil concentrar esse tipo de ativo num só lugar.

Yuval Noah Harari - Nexus (p. 6746)

A informação é diferente. Ao contrário do algodão e do petróleo, os dados digitais podem ser enviados da Malásia ou do Egito para Beijing ou San Francisco quase que à velocidade da luz. E, ao contrário da terra, dos campos de petróleo ou das fábricas de tecidos, os algoritmos não ocupam muito espaço.

Yuval Noah Harari - Nexus (p. 6748)

Assim, ao contrário do poder industrial, o poder algorítmico do mundo pode ficar concentrado num único centro. Os engenheiros de um só país poderiam escrever o código e controlar as chaves para todos os algoritmos essenciais que comandam o mundo inteiro.

Yuval Noah Harari - Nexus (p. 6762)

Como observamos no capítulo 9, a automação pode deixar milhões de operários têxteis na rua, mas provavelmente criará uma diversidade de novos empregos. Por exemplo, pode haver uma enorme demanda por codificadores e analistas de dados. Mas, para que um peão de fábrica desempregado se torne um analista de dados, é preciso um substancial investimento prévio na reciclagem. Onde Paquistão e Bangladesh conseguiriam dinheiro para isso?

Yuval Noah Harari - Nexus (p. 6776)

A Cortina de Silício é feita de códigos e atravessa todos os celulares, computadores e servidores do mundo. O código em seu celular determina em que lado da Cortina de Silício você mora, que algoritmos comandam sua vida, quem controla sua atenção e para onde vão seus dados.

Yuval Noah Harari - Nexus (p. 6812)

Como o código digital influi no comportamento humano e este, por sua vez, molda o código digital, os dois lados podem estar seguindo trajetórias distintas que os tornarão cada vez mais diferentes não só na tecnologia, mas também em seus valores culturais, normas sociais e estruturas políticas.

Yuval Noah Harari - Nexus (p. 6879)

Esses antigos debates teológicos sobre a mente e o corpo podem parecer totalmente alheios à revolução da ia, mas, de fato, eles têm sido ressuscitados pelas tecnologias do século xxi. Qual é a relação entre nosso corpo físico e nossas identidades e avatares online?

Meu comentário

Parece que a reflexão sobre a relação entre o corpo e bens digitais precisa ser feita.

Yuval Noah Harari - Nexus (p. 6888)

Uma pergunta cada vez mais importante é: as pessoas podem adotar qualquer identidade virtual que quiserem ou sua identidade deve ser restringida por seu corpo biológico?

Yuval Noah Harari - Nexus (p. 6919)

Mas o perigo de uma escalada na era da ia é maior, porque a guerra cibernética é intrinsecamente diferente da nuclear.

Yuval Noah Harari - Nexus (p. 6920)

Primeiro, as armas cibernéticas são muito mais versáteis do que as bombas nucleares. As armas cibernéticas podem derrubar a rede de energia elétrica de um país, mas também podem ser usadas para destruir um centro secreto de pesquisas, emperrar um sensor inimigo, inflamar um escândalo político, manipular as eleições ou hackear determinado celular.

Yuval Noah Harari - Nexus (p. 6929)

Uma segunda diferença fundamental é a previsibilidade. A Guerra Fria era como uma partida de xadrez hiper-racional, e era tão grande a certeza de destruição no caso de um conflito nuclear que o desejo de iniciar uma guerra era inversamente proporcional. A guerra cibernética não tem essa certeza. Ninguém sabe com precisão onde cada lado plantou suas bombas lógicas, seus cavalos de Troia e seus malwares.

Yuval Noah Harari - Nexus (p. 6938)

A teoria dos jogos postula que a situação mais perigosa numa corrida armamentista se dá quando um dos lados sente que tem uma vantagem, mas que essa vantagem logo vai passar.

Yuval Noah Harari - Nexus (p. 6947)

Entre os seres humanos, a precondição da cooperação não é a similaridade; é a capacidade de trocar informação. Enquanto formos capazes de conversar, podemos encontrar alguma estória em comum que nos aproxime. Foi isso, afinal, que tornou o Homo sapiens a espécie dominante do planeta.

Yuval Noah Harari - Nexus (p. 6969)

Se os cientistas alemães inventam uma vacina contra alguma doença nova, como os brasileiros reagiriam a essa realização alemã? Uma possibilidade é rejeitar a vacina estrangeira e esperar até que os cientistas brasileiros desenvolvam a versão brasileira. Isso, porém, não seria apenas uma tolice; seria antipatriótico.

Meu comentário

Esse é um argumento curioso e que pode ser usado para várias coisas em relação ao patriotismo.

Yuval Noah Harari - Nexus (p. 6977)

Na verdade, a cooperação global significa duas coisas bem mais modestas.

Yuval Noah Harari - Nexus (p. 6977)

A primeira é um compromisso com algumas regras globais.

Yuval Noah Harari - Nexus (p. 6982)

O segundo princípio do globalismo é que às vezes — não sempre, mas às vezes — é necessário dar prioridade aos interesses de longo prazo de todos os seres humanos, acima dos interesses de curto prazo de uns poucos.

Yuval Noah Harari - Nexus (p. 6993)

Assim, mesmo assinando um acordo que proíba sistemas de armas autônomas, um país pode construir secretamente essas armas ou camuflá-las como produtos civis. Pode desenvolver drones totalmente autônomos para entregar correspondência e aplicar pesticidas em lavouras, por exemplo, os quais, com algumas pequenas modificações, também poderiam soltar bombas e espalhar veneno nas pessoas.

Yuval Noah Harari - Nexus (p. 7026)

O padrão mais claro na história da humanidade no longo prazo não é o conflito reiterado, e sim a escala crescente de cooperação.

Yuval Noah Harari - Nexus (p. 7036)

Ao mesmo tempo, a mudança em curso de uma economia de base material para uma economia baseada no conhecimento diminuiu os possíveis ganhos da guerra. Embora continuasse exequível conquistar arrozais e minas de ouro, na segunda metade do século xx essas já não eram mais as principais fontes de riqueza econômica. As novas indústrias de ponta, como o setor de semicondutores, vieram a se basear em qualificações técnicas e know-how organizacional que não eram obtidos com a conquista militar.

Meu comentário

Esse também parece ser um ponto importante para que guerras entre países seja menos provaveo

Yuval Noah Harari - Nexus (p. 7073)

No início do século xxi, a média das despesas governamentais com as Forças Armadas esteve na faixa de apenas 7%, e mesmo a superpotência dominante, os Estados Unidos, só gastou por volta de 13% de seu orçamento anual para manter sua hegemonia militar.

Yuval Noah Harari - Nexus (p. 7081)

O declínio da guerra não se deu por milagre divino nem por uma metamorfose nas leis da natureza. Foi obra de seres humanos, mudando suas leis, mitos e instituições, e tomando decisões melhores.

Yuval Noah Harari - Nexus (p. 7113)

Uma das principais lições da história é que muitas das coisas que consideramos naturais e eternas são, na verdade, de lavra humana e mutáveis.

Yuval Noah Harari - Nexus (p. 7133)

A política é, em larga medida, uma questão de prioridades.

Yuval Noah Harari - Nexus (p. 7134)

As prioridades determinam o voto dos cidadãos, o interesse dos empresários e as ações dos políticos que buscam fazer nome. E, com frequência, as prioridades são moldadas por nosso entendimento da história.

Yuval Noah Harari - Nexus (p. 7169)

Uma lição é que a invenção de uma nova tecnologia da informação sempre é um catalisador de grandes mudanças históricas, pois o papel mais importante da informação não é representar realidades preexistentes, mas sim tecer novas redes.

Yuval Noah Harari - Nexus (p. 7174)

A informação assim registrada e distribuída era às vezes verdadeira, muitas vezes falsa, mas invariavelmente criava novas conexões entre um grande número de pessoas.

Yuval Noah Harari - Nexus (p. 7190)

Nos anos vindouros, todas as redes — de exércitos a religiões — ganharão milhões de novos membros de ia, que processarão os dados de uma forma diferente do que fariam os seres humanos. Esses novos membros tomarão decisões estranhas e gerarão ideias estranhas — ou seja, decisões e ideias que dificilmente ocorreriam aos seres humanos.

Yuval Noah Harari - Nexus (p. 7205)

Por um lado, devemos ter cuidado com noções ingênuas e otimistas em excesso. Informação não é verdade. Sua tarefa principal não é representar, e sim conectar, e as redes de informação ao longo de toda a história frequentemente privilegiaram a ordem acima da verdade.

Yuval Noah Harari - Nexus (p. 7213)

Por outro lado, também precisamos ter cuidado e não pender demais para a outra direção, adotando uma concepção totalmente cética.

Yuval Noah Harari - Nexus (p. 7216)

Embora muitas redes de informação privilegiem a ordem em detrimento da verdade, nenhuma dessas redes é capaz de sobreviver se ignorar totalmente a verdade.

Yuval Noah Harari - Nexus (p. 7224)

Tanto os populistas quanto os marxistas acreditam que as opiniões das pessoas são determinadas por seus privilégios e que para mudar a opinião de alguém é preciso primeiro acabar com seus privilégios — o que costuma demandar força. Contudo, como os seres humanos estão interessados na verdade, há uma chance de resolver pelo menos alguns conflitos de maneira pacífica, conversando entre nós, reconhecendo erros, adotando novas ideias e revendo as estórias em que acreditamos.

📚 Referências e Fontes

🔗 Conexões do Cofre

Pessoas:
- Yuval Noah Harari
Organizações:
- Companhia das Letras

Rafael Alves ITM

Explorador

Nexus

📚 Nexus

🎯 Resumo da Obra

🧠 Minha Experiência

📝 Notas de Conteúdo

🖍️ Destaques e Citações

📚 Referências e Fontes

🔗 Conexões do Cofre

🌐 Referências Externas

Visão de gráfico

Sumário

Backlinks