📚 Nexus

🎯 Resumo da Obra

Nos últimos 100.000 anos, acumulamos um poder imenso. No entanto, mesmo com todas as nossas descobertas e conquistas, estamos enfrentando uma crise sem precedentes, com um colapso ambiental iminente e a desinformação desenfreada. A chegada da era da Inteligência artificial também representa um perigo para nós. Afinal, por que somos tão autodestrutivos apesar de tudo o que alcançamos?

Nexus revisita nossa história e avalia como o fluxo de informação nos moldou e ao mundo em que vivemos. Em uma narrativa que se estende da Idade da Pedra à canonização da Bíblia, às primeiras caças às bruxas modernas, ao Stalinismo, ao Nazismo e ao ressurgimento do Populismo hoje, Yuval Noah Harari nos convida a examinar a complexa relação entre informação e verdade, burocracia e mitologia, sabedoria e poder. O autor explora como várias sociedades e sistemas políticos usaram a informação para atingir seus objetivos — para o bem e para o mal — bem como as escolhas que devemos fazer em um momento em que a inteligência não-humana ameaça nossa própria existência.

A informação não é a matéria-prima da verdade, nem é uma mera arma. Nexus explora o terreno intermediário esperançoso entre esses extremos e redescobre a humanidade que nos une.

🧠 Minha Experiência

“Nexus” mudou a forma como penso sobre a informação e seu poder. Ler o livro de Yuval Noah Harari, que aborda as redes de informação desde os tempos antigos até a IA moderna, foi uma experiência verdadeiramente esclarecedora. Eu já suspeitava que simplesmente ter mais informação não significa ter a informação certa ou estar mais perto da verdade (Noção ingênua da informação considera que ter mais informação resulta em mais verdade). Mas este livro me ajudou a entender a complexa relação entre verdade e ordem, e como os governos tentam gerenciar isso.

Agora estou mais ciente dos perigos do nosso mundo conectado. Coisas como a facilidade com que líderes populistas podem usar indevidamente a informação online, e os problemas éticos com a IA, estão muito mais claras para mim. A ideia de Harari de uma “Cortina de Silício” – um mundo dividido pela tecnologia – é um aviso sério. Este livro me fez sentir uma necessidade mais forte de que os países trabalhem juntos e criem regras éticas para a IA. Sinto uma responsabilidade pessoal em ajudar com isso, para que a tecnologia ajude as pessoas em vez de prejudicá-las. Este livro não foi apenas interessante de ler; ele me fez querer fazer algo.

📝 Notas de Conteúdo

🖍️ Destaques e Citações

Ninguém contesta que, hoje, os seres humanos têm muito mais informação e poder do que na Idade da Pedra, mas é de duvidar que tenhamos uma compreensão muito melhor de nós mesmos e do nosso papel no universo.
Assim, ao contrário do poder industrial, o poder algorítmico do mundo pode ficar concentrado num único centro. Os engenheiros de um só país poderiam escrever o código e controlar as chaves para todos os algoritmos essenciais que comandam o mundo inteiro.
Por um lado, devemos ter cuidado com noções ingênuas e otimistas em excesso. Informação não é verdade. Sua tarefa principal não é representar, e sim conectar, e as redes de informação ao longo de toda a história frequentemente privilegiaram a ordem acima da verdade.

Chamamos nossa espécie de Homo sapiens — o humano sábio. Mas é discutível até que ponto temos feito jus ao nome. — Página: 37

Se nós, sapiens, somos tão sábios, por que somos tão autodestrutivos? — Página: 45

Nota: Essa é uma pergunta bastante interesante de se fazer.

Apesar da espantosa quantidade de informação à nossa disposição, somos tão suscetíveis à fantasia e à ilusão quanto nossos ancestrais antigos. — Página: 48

Ninguém contesta que, hoje, os seres humanos têm muito mais informação e poder do que na Idade da Pedra, mas é de duvidar que tenhamos uma compreensão muito melhor de nós mesmos e do nosso papel no universo. — Página: 50

Nota: Entendo que seria importante distinguir o conhecimento da humanidade do conhecimentl individual. Tecnologias sao facilmente aplicadas por indivduos sem que eles saibam como ela funcuona. Ja outros saberes nao.

Por que somos tão bons em acumular mais informação e poder, mas muito menos hábeis em adquirir sabedoria? — Página: 51

A lição para o aprendiz — e para a humanidade — é clara: nunca conjure poderes que não consegue controlar. — Página: 66

Nota: Mas no geral é o que mais fazemos.

O poder sempre brota da cooperação entre muitas pessoas. — Página: 76

O principal argumento deste livro é que a humanidade obtém enorme poder construindo grandes redes de cooperação, mas essas redes são construídas de uma forma que predispõe os humanos a usarem o poder de modo pouco sábio. Nosso problema, então, é um problema de rede. — Página: 81

Nota: A construcao de qualquer tipo de rede que é o problema?

Não devemos supor que as redes ilusórias estão fadadas ao fracasso. Se quisermos impedir que vençam, nós mesmos teremos de arregaçar as mangas. — Página: 96

Nota: Precisamos fazer algo e não ficar parado.

“a noção ingênua de informação”. — Página: 99

A noção ingênua sustenta que, ao reunirem e processarem uma quantidade muito maior de informação do que os indivíduos conseguiriam, as grandes redes alcançam um melhor entendimento da medicina, da física, da economia e de vários outros campos, e com isso elas se tornam não só poderosas, como também sábias. — Página: 102

No entanto, a noção ingênua supõe que o antídoto para a maioria dos problemas que enfrentamos na coleta e no processamento da informação é coletar e processar quantidades ainda maiores de informação. — Página: 117

Segundo essa noção, quanto maior a rede de informação, mais próxima da verdade ela deve estar. — Página: 121

A sabedoria costuma ser entendida como “tomar decisões corretas”, mas o significado de “corretas” depende de juízos de valor que variam entre diferentes pessoas, culturas ou ideologias. — Página: 124

A noção ingênua pensa que as divergências sobre os valores se revelam, a um exame mais detido, decorrentes da falta de informação ou da desinformação deliberada. — Página: 128

Com informação e tempo suficiente, iremos inevitavelmente descobrir a verdade sobre coisas que vão de infecções virais a preconceitos racistas, assim desenvolvendo não só nosso poder, mas também a sabedoria necessária para fazer um bom uso desse poder. — Página: 135

Nota: Essa é basicamente a visão ingenua da informação..

Talvez a formulação mais sucinta da noção ingênua da informação se encontre na declaração do Google, afirmando que sua missão é “organizar a informação do mundo e torná-la universalmente acessível e útil”. — Página: 158

Nota: O que me parece que nao e o principal quando a necessidade de crescimento constante e foco em lucro entram em cena.

Em gerações recentes, a humanidade tem visto o maior aumento de todos os tempos tanto na quantidade quanto na velocidade de nossa produção de informação. — Página: 185

Uma quantidade ainda maior de informação melhoraria ou pioraria as coisas? Logo saberemos. — Página: 194

Nota: A ia generatfiva pode trazer essa resposta.

Primeiro, o poder da ia poderia superalimentar conflitos humanos existentes, dividindo a humanidade contra si mesma. — Página: 219

Segundo, a Cortina de Silício poderia criar uma divisão não entre grupos humanos, mas entre todos os seres humanos e nossos novos senhores da ia. — Página: 223

ia, devemos ter em mente que ela é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por si mesma. — Página: 231

Nota: Bom. Nao exatamente. Mas nesmo assim o impacto e bastante preocupante.

A ia, por sua vez, pode processar sozinha a informação e, portanto, substituir os seres humanos em tomadas de decisão. A ia não é uma ferramenta — é um agente. — Página: 234

os computadores já tomam decisões a nosso respeito — Página: 241

Nota: J

sim, mas para isso alguem tem que direcionar o aprendixado, portanto alguem pode ser responsavel pela decisao de uma maquina.

O livro argumentava que o verdadeiro protagonista da história sempre foi a informação, e não o Homo sapiens, e que os cientistas cada vez mais entendem não só a história, mas também a biologia, a política e a economia em termos de fluxos de informação. — Página: 247

Nota: Sobre o hono deus.

Líderes populistas como Donald Trump e Jair Bolsonaro, movimentos populistas e teorias da conspiração como qanon e os antivacina sustentam que todas as instituições tradicionais que ganham autoridade dizendo reunir informação e descobrir a verdade estão simplesmente mentindo. — Página: 258

Em síntese, o populismo vê a informação como uma arma. — Página: 265

Em suas versões mais radicais, o populismo postula que não existem verdades objetivas e que cada um tem “sua própria verdade”, que brande para derrotar os rivais. — Página: 267

Karl Marx, que afirmava, em meados do século xix, que o poder é a única realidade, que a informação é uma arma e que as elites que dizem estar servindo à verdade e à justiça estão, de fato, defendendo estreitos privilégios de classe. — Página: 283

Essa interpretação binária da história tem implícito que toda interação humana é uma luta de poder entre opressores e oprimidos. Assim, sempre que alguém diz alguma coisa, a pergunta a fazer não é “O que está sendo dito? É verdade?”, mas, sim, “Quem está dizendo isso? Aos privilégios de quem isso serve?”. — Página: 288

Nota: Isso indica que despersonificar o conhecimento e os fatos seria fundamental?

central do populismo, que o cientista político Cas Mudde descreve como uma “ideologia que considera a sociedade separada, em última análise, em dois grupos homogêneos e antagônicos, ‘o povo puro’ versus ‘a elite corrupta’”. — Página: 296

Confiar apenas em “minha própria pesquisa” pode parecer algo muito científico, mas, na prática, consiste em crer que não existe uma verdade objetiva. — Página: 314

Nota: A busca de conhecimneto de formma solitaria é quase impossivel.

Enquanto os políticos comuns mentem ao povo para ganhar poder, o líder carismático é o porta-voz infalível do povo, que desmascara todas as mentiras. — Página: 326

Nota: Essa é uma visao boa do populismo mistico/religioso.

Se não quisermos entregar o poder a um líder carismático ou a uma inescrutável ia, primeiro precisamos obter um entendimento melhor do que é a informação, como ela ajuda a construir redes humanas e como se relaciona com a verdade e o poder. — Página: 336

Nota: Este parece ser um ponto importante desta obra.

A informação não é a matéria-prima da verdade, tampouco uma mera arma. Há entre esses dois extremos espaço suficiente para uma visão mais nuançada e esperançosa das redes humanas de informação e de nossa capacidade de utilizar o poder com sabedoria. — Página: 339

A história não é o estudo do passado; é o estudo da mudança. A história nos ensina o que permanece igual, o que muda e como as coisas mudam. — Página: 367

chips de silício podem criar espiões que nunca dormem, financistas que nunca esquecem e déspotas que nunca morrem. — Página: 387

Nota: E tudo isso pode ser um problema bdm maior do que imaginamos.

A informação, porém, não precisa consistir em símbolos criados pelos seres humanos. — Página: 433

Objetos até mais distantes do que um arco-íris também podem ser informação. — Página: 436

Qualquer objeto pode ser informação — ou não. Isso dificulta definir o que é informação. — Página: 443

Assim, evidentemente a informação não pode ser definida como tipos específicos de objetos materiais. — Página: 463

A noção ingênua de informação afirma que os objetos são definidos como informação no contexto da busca da verdade. — Página: 465

noção ingênua sustenta que a informação é uma tentativa de representar a realidade, e quando essa tentativa dá certo a chamamos de verdade. — Página: 473

A maior parte da informação na sociedade humana e, de fato, em outros sistemas físicos e biológicos não representa coisa alguma. — Página: 476

Nota: Ta ai uma frase cyriosa? Como algo pode ser usado para não representar coisa alguma?

Ao longo deste livro, entende-se como “verdade” algo que representa com precisão certos aspectos da realidade. — Página: 479

Qualquer pessoa que rejeite o universalismo rejeita a verdade. — Página: 483

A verdade e a realidade, apesar disso, são coisas diferentes, porque, por mais verdadeira que seja uma explicação, ela nunca consegue representar a realidade em todos os seus aspectos. — Página: 484

Outro problema com qualquer tentativa de representar a realidade é que a realidade contém muitos pontos de vista. — Página: 496

A realidade inclui um nível objetivo com fatos objetivos que não dependem das crenças das pessoas; — Página: 500

A realidade também inclui um nível subjetivo com fatos subjetivos como as crenças e os sentimentos de várias pessoas, mas, também nesse caso, é possível separar fatos e erros. — Página: 502

Em última análise, cada indivíduo tem uma perspectiva diferente sobre o mundo, moldada pelo cruzamento de diversas personalidades e histórias de vida. — Página: 515

Um mapa 1:1 pode parecer a representação suprema da realidade, mas, significativamente, ele não é mais uma representação, de forma alguma; ele é a realidade. — Página: 524

Nota: É impossivel representar a realidade pois ela ja e a realidade em si.

A verdade, então, não é uma representação 1:1 da realidade. A verdade é algo que traz nossa atenção para certos aspectos da realidade, inevitavelmente ignorando outros. Nenhuma apresentação da realidade é 100% precisa, mas, mesmo assim, algumas são mais verídicas do que outras. — Página: 527

Nota: Na verdade, o mas correro seria dizer wue algumas sao menoks erradkas do que outras.

A informação errônea é um erro honesto, que ocorre quando algo tenta representar a realidade, mas a compreende errado. — Página: 531

A desinformação é uma mentira deliberada, que se dá quando alguém tem a intenção consciente de distorcer nossa visão da realidade. — Página: 532

Além disso, a noção ingênua crê que a solução para os problemas causados pela informação errônea e pela desinformação é mais informação. Essa ideia, às vezes chamada de “doutrina do contradiscurso”, está associada ao juiz Louis D. Brandeis, — Página: 533

Uma teoria da informação que não consiga explicar a importância histórica da astrologia é inadequada. — Página: 554

Nota: Ate agora eu nao sei qual e a definicao de informacao do autor.

Seu traço definidor é mais a conexão do que a representação, e informação é tudo o que conecta pontos diferentes dentro de uma rede. — Página: 558

Nota: Seja a rede wue for?!

A informação não necessariamente nos informa sobre as coisas. Em vez disso, ela põe as coisas em formação. — Página: 559

Isso vale para países, partidos políticos e redes de notícias, tanto quanto para zebras. Sua existência também é ameaçada pela perda de contato entre as partes constituintes mais do que por representações imprecisas da realidade. — Página: 586

A informação é algo que cria novas realidades conectando diferentes pontos de uma rede. — Página: 591

Às vezes, as redes podem ser conectadas sem nenhuma tentativa de representação, correta ou errônea, da realidade, — Página: 601

Nota: Informacao pode ou bao ser usada para representar a realidade com mais ou mebos precisao.

Para concluir, a informação às vezes representa e às vezes não representa a realidade. Mas sempre conecta. Essa é sua característica fundamental. — Página: 637

Rejeitar a noção ingênua da informação como representação não nos obriga a rejeitar a noção de verdade, nem nos obriga a adotar a visão populista da informação como arma. — Página: 640

Se mais passos não forem dados para inclinar a balança em favor da verdade, o aumento na quantidade e na velocidade da informação provavelmente afogará as versões relativamente raras e caras com tipos muito mais comuns e baratos de informação. — Página: 645

Nota: Muita ibformacao ruim prejudica a pouxa informacao de qualidade

Veremos como, ao longo de dezenas de milhares de anos, os seres humanos inventaram várias tecnologias da informação que melhoraram bastante a conectividade e a cooperação, sem resultar necessariamente numa representação mais verídica do mundo. — Página: 655

Nota: Esse e um ponto interessante

A habilidade dos sapiens em cooperar flexivelmente em grandes números tem precursores entre outros animais. — Página: 662

O que permitiu a cooperação entre bandos diferentes foi que mudanças evolucionárias na estrutura do cérebro e nas capacidades linguísticas parecem ter dado aos sapiens a habilidade de contar e acreditar em estórias ficcionais, e de ser profundamente tocados por elas. — Página: 678

Em vez disso, a conexão deles é com uma estória muito bem elaborada sobre o líder, e é nessa estória que eles acreditam. — Página: 690

Nota: Deve ser por isso que cntrolar bem essas estorias dd forma a fazer com que se espalh e cada vez mis importante.

Uma “marca” é um tipo específico de estória. Dar marca a um produto significa contar uma estória sobre esse produto, que pode ter pouco a ver com suas qualidades efetivas, mas que mesmo assim os consumidores aprendem a associar àquele produto. — Página: 699

As pessoas pensam que se conectam com aquele indivíduo, mas de fato se conectam com a estória contada sobre ele, e muitas vezes há uma enorme distância entre ambos. — Página: 708

Ainda que as campanhas de marca, de vez em quando, constituam uma prática cínica de desinformação, as estórias realmente grandes da história são, em sua maioria, resultado de projeções emocionais e pensamentos otimistas fantasiosos. — Página: 737

A família é o vínculo mais forte que os seres humanos conhecem. — Página: 746

Nota: A familia e a peincipal e primeira grande fonte de estorias.

Como mostram numerosos estudos modernos, recontar repetidamente uma lembrança falsa acaba por levar a pessoa a adotá-la como recordação genuína. — Página: 764

Os dois níveis de realidade que antecederam a narração de estórias são a realidade objetiva e a realidade subjetiva. — Página: 773

A realidade objetiva consiste em coisas como pedras, montanhas e asteroides — coisas que existem, quer tenhamos consciência delas ou não. — Página: 774

E há a realidade subjetiva: coisas como dor, prazer e amor que não estão “lá fora”, e sim “aqui dentro”. As coisas subjetivas existem em nossa percepção delas. — Página: 776

a realidade intersubjetiva. Enquanto coisas subjetivas como a dor existem numa única mente, coisas intersubjetivas como leis, deuses, nações, empresas e moedas existem no nexo entre grande número de mentes. Sendo mais exato, elas existem nas estórias que as pessoas contam umas às outras. — Página: 778

As coisas intersubjetivas existem na troca de informação. — Página: 784

Entre todos os gêneros de estórias, os que criam realidades intersubjetivas são os mais importantes para o desenvolvimento de redes humanas de grande escala. — Página: 819

Se nossa identidade tribal em comum for sólida o suficiente, eles poderão nos acolher e nos instruir sobre os perigos e as oportunidades locais. Dez ou vinte anos depois, poderemos retribuir. — Página: 847

Nota: Entidades conectadas por estorias tem forca para manutencao em tempos de crise.

Segundo as teorias marxistas, as pessoas são sempre movidas por interesses materiais objetivos e usam as estórias apenas para camuflar esses interesses e confundir os rivais. — Página: 857

Além disso, os interesses materialistas por si só não explicam as identidades dos campos rivais. — Página: 864

Nota: Existe nao apenas relacoes de poder mas tambem identitarias.

Todas as relações entre grupos humanos de grande escala são, com efeito, moldadas por estórias, porque a própria identidade desses grupos é definida por estórias. — Página: 869

Essa é uma boa notícia. Se a história fosse moldada apenas por lutas de poder e interesses materiais, não faria sentido conversar com as pessoas que discordam de nós. — Página: 877

Nota: Entretanrto, sendo moldadas pode-se alterar tais estorias ou criar novas.

noção ingênua da informação diz que a informação leva à verdade e que saber a verdade ajuda as pessoas a obter poder e sabedoria. Isso parece tranquilizante. Implica ser improvável que as pessoas que fecham os olhos à verdade tenham muito poder, ao passo que as pessoas que respeitam a verdade podem ganhar muito poder, mas que o poder seria moderado pela sabedoria. — Página: 894

Na história, apenas em parte o poder brota do conhecimento da verdade. Brota também da capacidade de manter a ordem social entre um grande número de pessoas. — Página: 902

O mesmo se passa com todos os projetos ambiciosos empreendidos por seres humanos. — Página: 910

Nota: É sempre preciso de muita gente para alavancar grandes projetos.

Uma ideologia construída sem levar em conta os fatos, no entanto, ainda pode se revelar explosiva. — Página: 917

O que as pessoas no comando sabem e os físicos nucleares nem sempre entendem é que dizer a verdade sobre o universo dificilmente é o modo mais eficaz de implantar ordem entre grandes números de seres humanos. — Página: 921

O que mantém unidas as redes humanas costumam ser estórias ficcionais, em especial estórias sobre coisas intersubjetivas como divindades, dinheiro e nações. — Página: 925

Quando se trata de unir as pessoas, a ficção tem duas vantagens intrínsecas sobre a verdade. — Página: 926

Primeiro, a ficção pode ser tão simples quanto quisermos, ao passo que a verdade tende a ser complicada, porque a realidade que ela pretende representar é complicada. — Página: 927

Segundo, a verdade, muitas vezes, é incômoda e dolorosa, e se tentarmos abrandá-la e adoçá-la, ela deixará de ser verdade. A ficção, por outro lado, é maleável. — Página: 931

A inabalável adesão à verdade é essencial para o avanço científico e é também uma prática espiritual admirável, mas não uma estratégia política promissora. — Página: 937

Contar uma estória ficcional só é mentir quando você finge que a estória é uma representação verídica da realidade. — Página: 946

Se você evita fingir e reconhece que está tentando criar uma nova realidade intersubjetiva, em vez de representar uma realidade objetiva preexistente, então contar uma estória ficcional não é o mesmo que mentir. — Página: 947

Todos os sistemas políticos humanos se baseiam em ficções, mas alguns o admitem e outros não. Ser veraz sobre as origens de nossa ordem social facilita efetuar mudanças nela. — Página: 972

Nota: As vezes é preciso deixar claro que tudo é ums ficção

Na contramão da noção ingênua, a informação não é a matéria-prima da verdade, e as redes de informação humanas não são montadas só para descobrir a verdade. Mas, ao contrário da visão populista, a informação também não é apenas uma arma. — Página: 982

Para sobreviver e prosperar, toda rede de informação humana precisa fazer duas coisas ao mesmo tempo: descobrir a verdade e criar ordem. — Página: 984

De um lado, como espera a noção ingênua, as redes aprenderam a processar informação para obter um entendimento mais preciso de coisas como a medicina, os mamutes e a física nuclear. Ao mesmo tempo, as redes também aprenderam a usar a informação para manter uma ordem social mais forte entre populações maiores, usando não só versões verídicas, como também ficções, fantasias, propaganda e — de vez em quando — mentiras deslavadas. — Página: 986

Nota: As redes de informação podem ser usadas de forma objetiva pu intersubjetiva, psra descobrir a verdade do mundo ou para defini-la.

Ter muita informação não garante em si e por si a verdade e a ordem. É um processo difícil usar a informação para descobrir a verdade e, ao mesmo tempo, usá-la para manter a ordem. Para piorar as coisas, esses dois processos são muitas vezes contraditórios, porque é mais fácil manter a ordem por meio de ficções. — Página: 991

O que acontece quando o mesmo bit de informação revela um fato importante sobre o mundo, mas também fragiliza a nobre mentira que mantém a sociedade unida? Em casos assim, a sociedade pode tentar preservar a ordem impondo limites à busca da verdade. — Página: 997

Nota: Informações ,em especial as cientificas, acabam sempre desafiando a nossa visao de mundo.

Se uma rede privilegia a ordem em detrimento da verdade, ela pode se tornar muito poderosa, mas usar esse poder de modo insensato. — Página: 1011

Em vez de uma marcha do progresso, a história das redes humanas de informação é um funambulismo tentando equilibrar verdade e ordem. — Página: 1013

Mas sonhos, canções e fantasias, por inspiradores que sejam, não bastam para criar um Estado nacional operante. — Página: 1064

porém, para equipar e manter um exército, também é necessário aumentar os impostos e comprar armas. — Página: 1065

Nota: É preciso mais do qhe estorias, e preciso ter ações

Em suma, a essência do patriotismo não consiste em declamar poemas arrebatadores sobre a beleza da terra natal, tampouco em fazer discursos repletos de ódio contra estrangeiros e minorias. O patriotismo significa pagar impostos para que as pessoas no outro extremo do país também gozem dos benefícios de um sistema de esgoto, de segurança, educação e assistência à saúde. — Página: 1067

As listas são fundamentais não só para os sistemas tributários nacionais, como também para quase todas as outras instituições financeiras complexas. — Página: 1075

Nota: Listas, tabelas, dados.

Listas e estórias são complementares. Os mitos nacionais legitimam os registros tributários, enquanto os registros tributários ajudam a transformar estórias repletas de aspirações em escolas e hospitais de verdade. — Página: 1078

O grande problema delas — e a diferença crucial entre listas e estórias — é que as listas são mais tediosas do que as estórias, o que significa que temos facilidade em lembrar estórias, mas dificuldade em lembrar listas. — Página: 1084

Estamos tão acostumados a tais proezas da memória que não avaliamos com frequência quão extraordinárias elas são. — Página: 1097

Nota: A capacidade que temos de lembrar de series, filmes, livros e etc é bem majpr do que de lembrar de numeros e itens. Essa capacidade e fantastica.

Assim como as estórias e como todas as outras tecnologias da informação na história, os documentos escritos não representavam necessariamente a realidade com precisão. — Página: 1121

A capacidade dos computadores de criar realidades intersubjetivas é uma extensão do poder das tabuinhas de argila e folhas de papel. — Página: 1132

Nota: Nesse sentido os computadores sao extensoes das historias gravadas.

A propriedade continua a ser uma realidade intersubjetiva criada pela troca de informação, mas a informação agora assume a forma de um documento escrito (ou de um arquivo de computador), em vez de gestos e palavras trocadas entre as pessoas. — Página: 1147

Ao redigirem constituições, tratados de paz e contratos comerciais, advogados, políticos e homens de negócios passam semanas e até meses se debatendo sobre cada palavra — pois sabem que esses pedaços de papel podem exercer um enorme poder. — Página: 1159

Nota: A escrita e muito fundamental.

Os documentos escritos eram muito melhores do que o cérebro humano para registrar certos tipos de informação. Mas criavam um novo problema, muito espinhoso: a recuperação. — Página: 1169

À diferença dos forrageadores, que precisam apenas descobrir a ordem preexistente da floresta, os arquivistas precisam conceber uma nova ordem para o mundo. Essa ordem se chama burocracia. — Página: 1190

Esse princípio, porém, tem um custo. Em vez de se concentrar em entender o mundo como ele é, a burocracia, muitas vezes, se ocupa em impor uma ordem nova e artificial ao mundo. — Página: 1204

O ideal é que houvesse alguém capaz de levar em conta toda a diversidade de aspectos e considerações, mas tal abordagem holística exige que se supere ou se elimine a divisão burocrática. — Página: 1215

Nota: Isso é basicamente utopico

mas a burocracia acadêmica não incentiva essa abordagem holística. — Página: 1226

Nota: Colocar as coisas em caixinhas nem sempre e uma boa ideia.

E “espécie” é uma realidade objetiva descoberta pelos biólogos ou uma realidade intersubjetiva imposta por eles? — Página: 1248

Nota: Essa e a boa pergunta sobre a ciencia como um todo.

Mesmo que os biólogos cheguem a um consenso de que os vírus são formas de vida, isso não implicaria nenhuma mudança no comportamento dos vírus; mudaria apenas a maneira como são entendidos pelos seres humanos. — Página: 1267

Nota: Esse é o poder de entender o que ou nao realidade.

A mitologia e a burocracia são os pilares gêmeos de todas as sociedades de grande escala. Mas, enquanto a mitologia tende a despertar fascínio, a burocracia tende a despertar suspeita. — Página: 1314

Pois todas as burocracias — boas ou más — têm em comum uma característica fundamental: elas são de difícil entendimento para as pessoas. — Página: 1317

Nota: Isso e algo notavel em sistemas publicos por exemplo

Olhando por outra perspectiva, o que vemos são documentos levando seres humanos a se envolverem com outros documentos. — Página: 1336

A dificuldade de entender o poder burocrático tornou, ao mesmo tempo, mais difícil que as massas pudessem influir, resistir ou escapar à autoridade central. — Página: 1344

Nota: Quem controla os documentos e as certificacoes tambem controla o poder.

Todos os filhotes de mamíferos e aves dependem dos genitores na primeira fase da vida, procuram o cuidado parental e temem a negligência ou a hostilidade parental. — Página: 1356

Nos mitos nacionalistas e religiosos, os países ou as Igrejas são apresentados como um corpo biológico em risco de ser contaminado por atravessadores intrusos. Há séculos os fanáticos dizem frequentemente que as minorias étnicas e religiosas espalham doenças,39 que as pessoas lgbt são fonte de contaminação40 ou que as mulheres são impuras. — Página: 1382

Nas sociedades burocráticas, muitas vezes as pessoas comuns têm sua vida virada de ponta-cabeça por funcionários não identificados de uma agência insondável por razões incompreensíveis. — Página: 1416

Matar os documentos anulava as dívidas. — Página: 1460

Nota: Registros no papel são,por vezes, a unica confirmacao de algo. Ao iliminar tar registro perde-se a legitimidade.

Você nunca sabia qual desses documentos poderia algum dia lhe salvar a vida. — Página: 1512

Nota: E pensar que isso é mais comum do que imainamos.

Todas as redes de informação poderosas podem fazer o bem e o mal, dependendo da concepção e da forma como são usadas. O mero aumento da quantidade de informação numa rede não garante seu caráter benigno nem contribui em nada para encontrar o equilíbrio correto entre verdade e ordem. — Página: 1515

A burocracia e a mitologia são ambas fundamentais para manter a ordem, e ambas se dispõem de bom grado a sacrificar a verdade em favor da ordem. — Página: 1525

Para que funcionem, os mecanismos de autocorreção precisam de legitimidade. — Página: 1542

Em nossa vida pessoal, a religião pode desempenhar funções diversas, como oferecer consolo ou explicar os mistérios da vida. Mas, historicamente, a função mais importante dela é a de fornecer legitimidade sobre-humana à ordem social. — Página: 1549

Nota: Entidades sobre-humanas so podem fazer regras infalíveis

A menos que você tenha tido uma revelação divina pessoal, saber o que diziam os deuses significava confiar no que seres humanos falíveis como Tanotka e Baninge alegavam ser palavras dos deuses. — Página: 1572

Nota: Como saber que tivemos uma experiencia dessa?

Livros sagrados como a Bíblia e o Alcorão são uma tecnologia para contornar a falibilidade humana, e em torno desse artefato tecnológico construíram-se religiões do livro, como o judaísmo, o cristianismo e o islamismo. — Página: 1598

Um livro é um bloco fixo de textos — como capítulos, estórias, receitas ou epístolas — que sempre estão juntos e têm muitas cópias iguais. — Página: 1601

Nota: As principais caracferisticas sao ser um documento longo colm varios capitulos e wue todps os livros sao iguais. Isso e bem diferente de documentos e estorias orais.

O livro, com isso, assegura que muitas pessoas — Página: 1607

Mas as religiões do livro tinham seu próprio leque de problemas. O mais óbvio é: quem decide o que incluir no livro sagrado? — Página: 1614

Nota: com base nIsso podemos pensar quem decide quem deve verificar o conteudo de um livro? Issp abre um leque de opcoes bem grande.

Ao que parece, não foram excluídos deliberadamente; apenas se extraviaram. — Página: 1674

Nota: A decisão do que faz ou nao parte da biblia é bem mais complexa do que se imagina.

Com muitas Bíblias disponíveis em locações distantes, os judeus substituíram o despotismo humano pela soberania divina. Agora a ordem social era assegurada pela infalível tecnologia do livro. Ou assim parecia. — Página: 1691

e não havia duas Bíblias antigas que fossem idênticas. — Página: 1705

Nota: Mesmo com regras rigidas as copias ainda apredentam erros.

Um segundo problema, e maior, se referia à interpretação. Mesmo quando as pessoas concordam sobre a santidade de um livro e sua exata redação, elas ainda podem interpretar as mesmas palavras de modos diferentes. — Página: 1707

Um magnata naval judeu morando em Alexandria iria achar que muitas das leis bíblicas não se aplicavam à sua vida, e muitas de suas perguntas prementes não encontravam resposta clara no texto sagrado. — Página: 1721

Nota: O mubdo continua e textps eststicos nao sao capazes de se adaptar a nao ser que novas estprias sejam contadas.

A tentativa de contornar as instituições humanas falíveis baseando-se numa nova tecnologia da informação deu errado por causa da necessidade de uma instituição humana para interpretar o livro sagrado. — Página: 1730

O sonho de contornar as instituições humanas falíveis por meio da tecnologia do livro sagrado nunca se concretizou. A cada vez o poder da instituição rabínica aumentava. “Confie no livro infalível” se transformou em “confie nos seres humanos que interpretam o livro”. — Página: 1744

Nota: Talvez isso venha a acpntecer com a viblia catolica e tamvem as posicoes evangelicas

Essa mudança foi extremamente surpreendente, visto que não se encontra quase em lugar nenhum da Bíblia alguém discutindo a interpretação de algum texto. — Página: 1765

Nota: Realmenre a discussao nao e algo predente no que me lembrp da biblia

Na vida cotidiana, essa visão significava que, para os rabinos, as palavras nos textos eram com frequência mais importantes do que os fatos no mundo. Ou, mais precisamente, as palavras presentes em textos sagrados se tornaram alguns dos fatos mais importantes referentes ao mundo, moldando a vida de indivíduos e comunidades inteiras. — Página: 1785

A descrição acima da canonização da Bíblia e da criação da Mishná e do Talmude não menciona um fato muito importante. O processo de canonização da palavra de Jeová criou não uma cadeia de textos, mas várias cadeias concorrentes. Havia quem acreditasse em Jeová, mas não nos rabinos. A maioria desses dissidentes aceitava o primeiro bloco na cadeia bíblica — a que eles davam o nome de Antigo Testamento. Mas mesmo antes que os rabinos selassem esse bloco, os dissidentes rejeitavam a autoridade de toda a instituição rabínica, o que os levou depois a rejeitarem também a Mishná e o Talmude. Esses dissidentes eram os cristãos. — Página: 1788

Nota: Entao essa e a divisao entre o cristianismo e o judaismo?

Mais ou menos na mesma época em que os debates entre rabinos judeus produziam a Mishná e o Talmude, os debates entre padres, bispos e teólogos cristãos produziam o Novo Testamento. — Página: 1820

Quando os cristãos dizem “a Bíblia”, eles se referem ao Antigo Testamento e ao Novo Testamento em conjunto. Os judeus, em contraste, nunca aceitaram o Novo Testamento e, quando dizem “a Bíblia”, se referem apenas ao Antigo Testamento, que é suplementado pela Mishná e pelo Talmude. — Página: 1828

Assim como a maioria dos judeus esqueceu que o Antigo Testamento teve a curadoria de rabinos, da mesma forma a maioria dos cristãos esqueceu que o Novo Testamento teve a curadoria de concílios da Igreja e passou a vê-lo como a palavra infalível de Deus. — Página: 1875

Nota: Eu nao diria que esqueceram mas sim que faz parrte da definicao do grupo.

A tentativa de investir toda a autoridade numa tecnologia sobre-humana infalível levou ao surgimento de uma nova instituição humana, extremamente poderosa — a Igreja. — Página: 1881

A teologia católica aceitava que Jesus nos falou para amarmos nossos inimigos, mas explicava que queimar os hereges era um ato de amor, pois impedia que outras pessoas adotassem visões heréticas, assim as salvando das chamas do inferno. — Página: 1895

Nota: Essa parece ser uma base para as cruzadas

Um decreto da Universidade de Oxford em 1409 estipulava que “todos os textos recentes” estudados na universidade deviam ter a aprovação unânime “de um grupo de doze teólogos indicados pelo arcebispo”.63 — Página: 1913

Nota: Olha que coisa curiosa, grandes universidades nascem de berco religioso.

Especialistas da informação católica, como Jacques Fournier, passavam os dias lendo a interpretação de Tomás de Aquino da interpretação de Agostinho da interpretação das epístolas de Paulo e compondo suas próprias interpretações adicionais. — Página: 1920

Nota: No fim um estudioso estudava outro de forma indireta. Sera que hoje isso e muito diferebte?

Se os textos infalíveis simplesmente levaram ao surgimento de Igrejas falíveis e opressoras, como então lidar com o problema do erro humano? A noção ingênua da informação postula que é possível resolvê-lo criando o oposto de uma Igreja — a saber, um livre mercado da informação. — Página: 1933

Nota: Assim com o autor acredita isso me parece fantasioso.

Os que conectam prelo e ciência supõem que o mero ato de produzir e difundir mais informação inevitavelmente leva as pessoas à verdade. — Página: 1948

As pessoas começaram a fazer denúncias mútuas de bruxaria ao mais tênue sinal, muitas vezes para se vingar de desfeitas pessoais ou obter vantagens políticas e econômicas. — Página: 2024

A caça às bruxas ilustra o lado sombrio de criar uma esfera de informação. Tal como ocorria com as discussões rabínicas do Talmude e as discussões escolásticas das Escrituras cristãs, a caça às bruxas era alimentada por um oceano crescente de informações que, em vez de representar a realidade, criava uma nova realidade. — Página: 2053

Não presenciou nenhuma bruxaria ao vivo, mas havia tanta informação sobre bruxas circulando que lhe era difícil duvidar de toda ela. — Página: 2102

Em termos mais específicos, um mercado de ideias totalmente livre pode incentivar a disseminação do ressentimento e do sensacionalismo em detrimento da verdade. — Página: 2113

As instituições de curadoria que desempenharam um papel central na revolução científica conectavam estudiosos e pesquisadores dentro e fora das universidades, formando uma rede de informação que se estendeu por toda a Europa e, por fim, por todo o mundo. — Página: 2132

Nota: Revistas e jornais cientificos bem como associacoes do tipo

Uma instituição científica, porém, ganhava autoridade porque tinha sólidos mecanismos de autocorreção, que expunham e retificavam os erros da própria instituição. Foram esses mecanismos de autocorreção, e não a tecnologia do prelo, que constituíram o motor da revolução científica. — Página: 2146

O projeto científico parte da rejeição da fantasia da infalibilidade e avança construindo uma rede de informação que considera inevitável o erro. — Página: 2152

A marca registrada da ciência não é meramente o ceticismo, e sim o autoceticismo, e no cerne de toda instituição científica encontramos um sólido mecanismo autocorretor. — Página: 2161

O mecanismo autocorretor aceita a falibilidade. Por autocorretor, refiro-me ao mecanismo que uma entidade utiliza para corrigir a si mesma. — Página: 2166

Esses mecanismos começam com a percepção de que os seres humanos são falíveis e corruptíveis. — Página: 2186

No dogma católico, “o depósito da fé” se refere ao corpo da verdade revelada que a Igreja recebeu das Escrituras e de sua tradição sagrada de interpretá-las. — Página: 2198

Segundo o dogma católico, a infalibilidade bíblica e a orientação divina vencem a corrupção humana, e assim, mesmo que membros individuais da Igreja possam errar e pecar, a Igreja católica como instituição nunca está errada. — Página: 2202

Mas o que caracteriza a autocorreção em instituições como a Igreja católica é que, mesmo quando ocorre, ela é negada, e não celebrada. A primeira regra ao mudar os ensinamentos da Igreja é nunca admitir mudar os ensinamentos da Igreja. — Página: 2248

Pois a Igreja caiu na armadilha da infalibilidade. Na medida em que baseou sua autoridade religiosa na alegação de infalibilidade, qualquer admissão pública de erro institucional — mesmo em questões relativamente secundárias — poderia destruir sua autoridade por completo. — Página: 2261

O essencial é que as instituições científicas estão dispostas a admitir sua responsabilidade institucional por erros e crimes de grande monta. — Página: 2270

Nota: Sera mesmo? Nao me parece que isso seja cerdade plena no mundo editorial.

Hoje a disciplina da psiquiatria não tenta dar uma interpretação mais positiva à definição de homossexualidade de 1952. Em vez disso, ela vê a definição de 1952 como um erro absoluto. — Página: 2287

Nota: E isso e fundamental

A contratação e as promoções nas instituições científicas se baseiam no princípio do “publicar ou morrer”, e, para publicar em revistas de prestígio, você precisa expor algum erro em teorias existentes ou descobrir algo que seus professores e predecessores não sabiam. — Página: 2303

A ciência é um empreendimento institucional, e os cientistas se baseiam na instituição em quase tudo o que sabem. — Página: 2307

Nota: E importante frisae isso sempre.

Mas espera-se que os especialistas na história da feitiçaria que leram o livro de Hutton e podem estar lendo o presente livro detectem esses erros e os exponham. — Página: 2318

Nota: Essa e uma caracteristica importante do processo cientifico mas que tambem e um limitador. Como saber/acompanhar os erros descritos?

Fornecendo evidências empíricas suficientes, geralmente leva apenas umas poucas décadas até que uma teoria heterodoxa derrube o saber estabelecido para se tornar o novo consenso. — Página: 2353

Uma instituição pode ter o nome que quiser, mas sem um sólido mecanismo de autocorreção não é uma instituição científica. — Página: 2370

Tais mecanismos são vitais para a busca da verdade, mas custosos para a manutenção da ordem. Mecanismos autocorretores sólidos tendem a criar dúvidas, divergências, conflitos e cisões, e a debilitar os mitos que mantêm a ordem social unida. — Página: 2374

A história das redes de informação sempre incluiu a manutenção de um equilíbrio entre verdade e ordem. — Página: 2380

Afinal, uma das maiores questões em relação à ia é se ela favorecerá ou debilitará os mecanismos autocorretores democráticos. — Página: 2396

Nota: E isso ainda e dificil de saber

Democracia e ditadura costumam ser discutidas como sistemas políticos e éticos contrastantes. Este capítulo tenta modificar os termos da discussão, analisando a história da democracia e da ditadura como tipos contrastantes de redes de informação, e mostra que, nas democracias e nos sistemas ditatoriais, as informações fluem de maneiras diferentes e que a invenção de novas tecnologias de informação ajuda o florescimento de diferentes tipos de regime. — Página: 2398

As redes de informação ditatoriais são altamente centralizadas.1 Isso pode significar duas coisas. — Página: 2401

Em primeiro lugar, o centro desfruta de autoridade ilimitada, o que significa que as informações tendem a fluir para o ponto central, em que são tomadas as decisões mais importantes. — Página: 2403

Mas nem toda ditadura é totalitária. — Página: 2407

Em muitos regimes ditatoriais, portanto, considerável autonomia é conferida a indivíduos, empresas e comunidades, embora os ditadores sempre retenham a autoridade de intervir na vida das pessoas. — Página: 2409

A segunda característica das redes ditatoriais é que elas supõem que o centro seja infalível. Consequentemente, detestam qualquer contestação às decisões do centro. — Página: 2411

Em suma, uma ditadura é uma rede de informações centralizada, sem mecanismos robustos de autocorreção. — Página: 2423

Já uma democracia, por sua vez, é uma rede de informações distribuída, com fortes mecanismos de autocorreção. — Página: 2423

Autonomia não é consequência de ineficácia do governo; é o ideal democrático. — Página: 2430

Claro, se o governo central não intervém de forma alguma na vida das pessoas e não lhes oferece serviços essenciais como segurança, não há democracia; há anarquia. — Página: 2435

Na falta de uma razão convincente, um governo democrático deveria deixar as pessoas se organizarem sozinhas. — Página: 2438

Outra característica essencial das democracias é que elas partem do princípio de que todos são falíveis. Portanto, embora deem ao centro a autoridade de tomar decisões vitais, as democracias mantêm fortes mecanismos capazes de contestar a autoridade central. — Página: 2439

Como consequência, enquanto a ditadura diz respeito a um único ponto central de informações, a democracia é uma conversa em andamento entre diversos nós de informação. — Página: 2444

Nota: Essa distincao e importante

A tomada de decisões em assuntos coletivos requer, antes de tudo, uma conversa pública e nacional, depois da qual representantes do povo — escolhidos em eleições livres e justas — batem o martelo. Mas a escolha, mesmo depois de feita, deve continuar sujeita a reexame e correção. Embora não possa alterar escolhas anteriores, a rede tem como eleger um governo diferente da próxima vez. — Página: 2451

Eleições são uma parte central do kit de ferramentas democráticas, mas não são democracia. — Página: 2456

Nota: Sempre bom levantar esse ponto.

Até porque democracia não é sinônimo de ditadura da maioria. — Página: 2458

O método mais usado por líderes autoritários para enfraquecer a democracia é atacar os seus mecanismos de autocorreção, um depois do outro, começando, quase sempre, pelos tribunais e pela imprensa. — Página: 2474

No entanto, democracia não significa governo da maioria; a rigor, significa liberdade e igualdade para todos. Democracia é um sistema que garante a todos certas liberdades, que nem mesmo a maioria pode tirar. — Página: 2490

Mas, numa democracia, há dois pacotes de direitos que estão fora do alcance da maioria. Um contém direitos humanos. — Página: 2495

O segundo pacote essencial de direitos inclui os direitos civis. — Página: 2499

Uma coisa importante a ser notada tanto sobre direitos humanos quanto sobre direitos civis é que eles não apenas limitam o poder do governo central; eles também lhe impõem deveres ativos. — Página: 2507

Nota: Isso e importante e curioso ao mesmo tempo.

Tanto os direitos humanos quanto os direitos civis são convenções intersubjetivas que os humanos inventam em vez de descobrir, determinados por contingências históricas, e não pela razão universal. — Página: 2518

E lembremos que as eleições não são um método de descobrir a verdade. São, pelo contrário, um método de manter a ordem atuando como juiz dos desejos conflitantes das pessoas. — Página: 2522

Nota: Ta ai uma definicao curiosa sobre o voto e as eleicoes.

Reconhecer a realidade das mudanças climáticas não nos diz o que devemos fazer a respeito delas. Sempre existem opções, e escolher entre elas é uma questão de desejo, e não de verdade. — Página: 2547

Nota: Ts ai uma diferenca entre ciencia e tecnologia e como sair de uma para outra

O governo já é a instituição mais poderosa nas sociedades desenvolvidas e quase sempre tem o maior interesse em distorcer ou ocultar verdades inconvenientes. Permitir que o governo supervisione a busca da verdade é como chamar a raposa para tomar conta do galinheiro. — Página: 2560

Nenhum desses mecanismos é imune a falhas, mas nenhuma instituição o é. O governo com certeza não — Página: 2571

Se tudo isso parece complicado é porque a democracia é para ser complicada. A simplicidade é característica de redes de informação ditatoriais, em que o centro dita as regras e todos obedecem em silêncio. — Página: 2573

O termo “populismo” vem do latim populus, que significa “o povo”. Nas democracias, “o povo” é considerado a única fonte legítima de autoridade política. — Página: 2582

A mais nova alegação feita pelos populistas é de que só eles, de fato, representam o povo. Se nas democracias apenas o povo deveria ter poder político, e como supostamente só os populistas representam o povo, conclui-se que o partido populista deveria concentrar em suas mãos todo o poder político. — Página: 2586

Da mesma forma, os populistas podem achar que os inimigos do povo convenceram o povo a votar contra a sua vontade, que só os populistas de fato representam. — Página: 2598

Como saber, então, se alguém é parte do povo ou não? Fácil. Se apoia o líder, é parte do povo. Essa, de acordo com o filósofo político alemão Jan-Werner Müller, é a característica definidora do populismo. — Página: 2613

O que faz de alguém um populista é afirmar que só ele ou ela representam o povo e que qualquer um que discorde — sejam burocratas do Estado, grupos minoritários ou até mesmo a maioria do eleitorado — tem falsa consciência ou não faz realmente parte do povo. — Página: 2614

O populismo corrói a democracia de outra maneira mais sutil, porém igualmente perigosa. Tendo alegado que só eles representam o povo, os populistas sustentam que o povo é não só a única fonte legítima de autoridade política, como também de toda a autoridade. — Página: 2624

Na verdade, embora democracia signifique que a autoridade na esfera política vem do povo, ela não nega a validade de fontes alternativas de autoridade em outras esferas. — Página: 2629

Os populistas desconfiam de instituições que, em nome da verdade objetiva, ignoram a suposta vontade do povo. — Página: 2635

É por isso que toda instituição precisa de mecanismos de autocorreção. Mas, convencidos de que o poder é a única realidade, os populistas não podem aceitar que um tribunal, um veículo de comunicação ou uma disciplina acadêmica possam ser inspirados pelo valor da verdade ou da justiça para se corrigirem. — Página: 2649

É por isso que os populistas dependem, em última análise, da noção mística de que o líder autoritário encarna o povo. — Página: 2665

Democracia e ditadura não são opostos binários, mas um espectro contínuo. — Página: 2674

O Congresso dos Estados Unidos foi projetado para cumprir essa função, com representantes do povo reunidos para conversar e tentar convencer uns aos outros. Mas quando foi a última vez que um eloquente discurso no Congresso, feito por alguém de um partido, convenceu membros do outro partido a mudarem de ideia sobre alguma coisa? — Página: 2694

democracias morrem não só quando as pessoas não têm liberdade de falar, mas também quando não querem e não são capazes de ouvir. — Página: 2697

A economia de grande parte dos caçadores-coletores era muito mais diversificada. Um líder, ainda que apoiado por alguns aliados, não tinha como cercar a savana e impedir que as pessoas coletassem plantas e caçassem animais. — Página: 2719

Todos os cidadãos adultos do sexo masculino podiam participar da assembleia ateniense, votar em políticas públicas e se eleger para cargos públicos. Mas as mulheres, os escravizados e os não cidadãos residentes da cidade não desfrutavam desses privilégios. Apenas cerca de 25% a 30% da população adulta de Atenas tinha plenos direitos políticos. — Página: 2739

O maior equívoco aqui é equiparar democracia com eleições. Dezenas de milhares de cidadãos romanos poderiam teoricamente votar em candidatos a imperador. Mas a verdadeira indagação é se dezenas de milhares de romanos seriam capazes de manter um diálogo político contínuo em todo o seu território. — Página: 2794

Para manter um diálogo, não bastam a liberdade de falar e a capacidade de ouvir. Há, além disso, dois pré-requisitos técnicos. Em primeiro lugar, as pessoas precisam ser capazes de ouvir umas às outras. — Página: 2800

Em segundo, as pessoas precisam ao menos de um entendimento rudimentar a respeito daquilo que estão falando. — Página: 2804

Uma conversa política de grande alcance entre grupos diversos só ocorrerá se as pessoas puderem adquirir alguma compreensão de questões que jamais vivenciaram. — Página: 2811

Nota: Isso também é válido para a ciência não?

Filósofos antigos, como Platão e Aristóteles, já sabiam disso, alegando que a democracia só funcionava em cidades-Estado de pequeno porte. — Página: 2838

Deve-se ressaltar que, em muitas autocracias em grande escala, questões locais costumavam ser resolvidas de forma democrática. — Página: 2843

Nota: Isso é um ponto curioso.a informação não é amplamente disponível sem a tecnologia adequada.

Mesmo em impérios cujos governantes não tinham pretensões democráticas, a democracia ainda conseguia prosperar em nível local. — Página: 2858

Mas a democracia numa escala de milhões de pessoas só se tornou possível na era moderna quando os meios de comunicação de massa mudaram a natureza das redes de informação em grande escala. — Página: 2870

Os meios de comunicação de massa são tecnologias da informação capazes de conectar rapidamente milhões de pessoas a longa distância. — Página: 2873

Embora dificilmente isso pareça democrático no século xxi, é bom lembrar que todas as democracias em grande escala até o século xx limitavam os direitos políticos a um pequeno círculo de homens relativamente ricos. — Página: 2884

Nota: Essa é uma característica marcante

Diferentemente de publicações de edição única, um jornal semanal ou diário tem a chance de corrigir seus erros e um incentivo para fazê-lo, que é conquistar a confiança do público. — Página: 2915

Nas eleições de 1824, que levaram Adams ao poder, 1,3 milhão de americanos, na teoria, tinham o direito de votar, numa população de 5 milhões (ou mais ou menos 25%). Apenas 352 780 pessoas — 7% da população adulta total — de fato fez uso desse direito. — Página: 2956

Como já foi dito, democracia e autocracia não são tudo ou nada; mas parte de um espectro. No começo do século xix, entre todas as sociedades humanas em larga escala, é provável que os Estados Unidos estivessem mais próximos do extremo democrático. — Página: 2966

Um século adiante, as coisas de fato aceleraram. Pela primeira vez na história, novas tecnologias permitiram que massas de pessoas, espalhadas por vastas extensões territoriais, se conectassem umas com as outras em tempo real. — Página: 2999

A democracia em larga escala se tornara viável. Milhões de pessoas separadas por milhares de quilômetros podiam realizar debates públicos esclarecidos e importantes sobre as principais questões do momento. — Página: 3004

Os meios de comunicação de massa tornaram a democracia possível, mas não inevitável. Também viabilizaram outros tipos de regime. Em particular, as novas tecnologias de informação da era moderna abriram as portas para os regimes totalitários em larga escala. — Página: 3009

Sistemas totalitários pressupõem sua própria infalibilidade e buscam ter o controle total da vida das pessoas. — Página: 3016

Para compreendermos isso, precisamos primeiro esclarecer a diferença entre regimes totalitários e regimes autocráticos menos extremos. Numa rede autocrática, não há limites legais para a vontade do governante, mas há, apesar disso, uma série de limites técnicos. Numa rede totalitária, diversos desses limites técnicos estão ausentes. — Página: 3019

O totalitarismo é a tentativa de controlar o que cada pessoa no país inteiro faz e diz a cada momento do dia, e potencialmente até mesmo o que cada pessoa pensa e sente. — Página: 3035

Para imperadores, califas, xás e reis, manter os subordinados sob controle era um tremendo desafio. Por consequência, os governantes concentravam sua atenção em controlar os militares e o sistema tributário. — Página: 3049

No entanto, o Império Qin superou outros impérios antigos em suas ambições totalitárias. — Página: 3096

O legalismo postulava que os homens eram naturalmente gananciosos, cruéis e egoístas. Ressaltava a necessidade de controle rigoroso, afirmava que as punições e as recompensas eram a maneira mais efetiva de controlar, e insistia em que o poder do Estado não fosse restringido por considerações morais. — Página: 3098

Os imperadores Han eram autocráticos, sem dúvida, mas não totalitários. Não reconheciam limite algum para a sua autoridade, mas não tentavam microgerir a vida de cada um. — Página: 3122

A rede stalinista era formada por três grandes ramos. — Página: 3143

Em primeiro lugar, havia o aparelho governamental de ministérios, administrações regionais e unidades regulares do Exército Vermelho, que em 1939 compreendia 1,6 milhão de funcionários civis71 e 1,9 milhão de soldados. — Página: 3144

Em segundo, havia o aparelho do Partido Comunista da União Soviética e suas ubíquas células partidárias, que em 1939 incluía 2,4 milhões de membros do partido. — Página: 3147

Em terceiro lugar, havia a polícia secreta: — Página: 3149

Assim como a democracia é mantida por mecanismos sobrepostos de autocorreção que vigiam uns aos outros, o totalitarismo moderno criou mecanismos sobrepostos de vigilância que mantêm uns aos outros na linha. — Página: 3153

Segue-se que um dos pilares do regime totalitário é que sempre que as pessoas se reúnem e trocam informações, o regime precisa estar lá também, de olho. Nos anos 1930, esse foi um princípio comum a Hitler e Stálin. — Página: 3194

Estavam também convencidos das vantagens econômicas do sistema proposto, achando que o colcoz se beneficiaria bastante da economia de escala. — Página: 3233

Nota: Isso até faz sentido

Se na imaginação de Kramer bruxas a serviço de Satã invocavam tempestades de granizo que destruíam as plantações, na imaginação stalinista cúlaques subordinados ao capitalismo global sabotavam a economia soviética. — Página: 3266

Nota: Inimigos imaginários são sempre um problema

Ser cúlaque significava não só possuir alguma propriedade, mas também ter certos traços de personalidade. — Página: 3271

Como o menino “bruxo” de dez anos Hansel Pappenheimer, a menina “cúlaque” de onze anos Antonina Golovina se viu atirada numa categoria intersubjetiva inventada por criadores humanos de mitos e imposta por burocratas onipresentes. — Página: 3325

Nota: Como a maioria das categorias sociais, preconceitos e estigmas

Por consequência, as crianças soviéticas aprendiam a cultuar Stálin como seu verdadeiro pai e a denunciar os pais biológicos se eles criticassem Stálin ou o Partido Comunista. — Página: 3333

A lição mais importante que os pais soviéticos ensinavam aos filhos não era lealdade ao partido ou a Stálin. Era “bico calado”.103 Poucas coisas eram mais perigosas na União Soviética do que conversar abertamente. — Página: 3351

Há, no entanto, diferenças significativas entre o totalitarismo moderno e as Igrejas pré-modernas. Em primeiro lugar, como já observado, o totalitarismo moderno opera empregando mecanismos sobrepostos de vigilância, que mantêm uns aos outros na linha. — Página: 3358

A ideia do totalitarismo é justamente impedir qualquer separação de poderes. — Página: 3369

Outra diferença relevante é que as Igrejas medievais tendiam a ser organizações tradicionalistas resistentes a mudanças, enquanto os partidos totalitários modernos tendem a ser organizações revolucionárias que exigem mudanças. — Página: 3373

Talvez o mais importante de tudo é que as Igrejas pré-modernas não podiam tornar-se ferramentas de controle totalitário, porque elas também sofriam as mesmas limitações de todas as outras organizações pré-modernas. — Página: 3393

As Igrejas só se tornaram instituições mais totalitárias no fim da era moderna, com a disponibilidade das modernas tecnologias da informação. — Página: 3403

Com o advento do rádio, os papas entraram para o clube das pessoas mais poderosas do planeta. O papa João Paulo ii, sentado no Vaticano, era capaz de falar diretamente com milhões de católicos da Polônia às Filipinas, sem que nenhum arcebispo, bispo ou pároco pudessem distorcer as suas palavras. — Página: 3406

Já vimos que a democracia incentiva que ela flua através de muitos canais independentes, e não apenas através do centro, o que permite que muitos nós independentes processem as informações e tomem decisões por conta própria. — Página: 3412

Já o totalitarismo, por sua vez, quer que todas as informações passem pelo ponto central, e não que instituições independentes tomem decisões por contra própria. — Página: 3416

A maior vantagem da rede totalitária centralizada é ser extremamente organizada, o que significa que pode tomar decisões com rapidez e implementá-las sem piedade. Em especial durante emergências, como guerras e epidemias, as redes centralizadas podem agir muito mais depressa e ir mais fundo do que as redes distribuídas. — Página: 3420

Mas redes de informação hipercentralizadas também apresentam uma série de desvantagens. Como não permitem que as informações fluam por nenhum outro lugar senão os canais oficiais, se eles estiverem bloqueados, as informações não dispõem de meios alternativos de transmissão. E os canais oficiais ficam bloqueados com frequência. — Página: 3423

Uma razão comum para impedimento dos canais oficiais é o fato de que subordinados temerosos escondem as más notícias dos seus superiores. — Página: 3425

Outra razão comum para os canais oficiais não repassarem informações é a preservação da ordem. — Página: 3435

Naturalmente, líderes de países democráticos também não gostam de más notícias. Mas numa rede democrática distributiva, quando as linhas oficiais de comunicação ficam bloqueadas, as informações fluem por canais alternativos. — Página: 3451

Quando consideramos a história da Segunda Guerra Mundial e seu desfecho como um todo, fica evidente que o stalinismo foi, na verdade, um dos sistemas políticos mais bem-sucedidos já imaginados — se definirmos “sucesso” apenas em termos de ordem e poder, sem levar em conta todas as considerações de ética e de bem-estar humano. — Página: 3564

Sistemas de informação podem ir bem longe apenas com um pouco de verdade e muita ordem. — Página: 3580

A tecnologia apenas abre novas oportunidades; cabe a nós decidir qual delas aproveitar. — Página: 3586

Nota: O problema é que várias coisas abrem espaço para outras.

Os regimes totalitários optam por usar tecnologias modernas da informação para centralizar o fluxo de informações e sufocar a verdade em nome da manutenção da ordem. — Página: 3587

Os regimes democráticos optam por usar tecnologias modernas da informação para distribuir o fluxo de informações entre mais instituições e indivíduos, e incentivam a busca da verdade. — Página: 3590

Foi uma conquista tão notável que muita gente achava que a vitória da democracia contra o totalitarismo era definitiva. Essa vitória costuma ser explicada em termos de uma vantagem fundamental no processamento de informações: o totalitarismo não funcionava porque não dava certo tentar concentrar e processar todos os dados num ponto central. — Página: 3636

Não foi bem assim. Na verdade, a revolução da informação seguinte já estava ganhando impulso, preparando terreno para uma nova rodada da competição entre a democracia e o totalitarismo. — Página: 3639

Sim, os velhos na tribuna da praça Vermelha não estavam à altura da tarefa de orquestrar milhões de vidas a partir de um único centro. Mas talvez a ia esteja. — Página: 3645

Nota: Esse é um ponto importante e curioso

Como em épocas anteriores, as redes de informação lutarão para encontrar o equilíbrio adequado entre verdade e ordem. Algumas darão prioridade à verdade e a manter fortes mecanismos de autocorreção. Outras farão a escolha contrária. — Página: 3650

A grande divisão na política do século xxi talvez não se dê entre as democracias e os regimes totalitários, mas entre seres humanos e agentes não humanos. — Página: 3658

A semente da revolução atual é o computador. Todo o resto — da internet à ia — é subproduto. — Página: 3670

Com os computadores, a história é outra. Em termos de inteligência, os computadores superam não só bombas atômicas, como também todas as tecnologias da informação que vieram antes, como tabuinhas de argila, prelos e aparelhos de rádio. — Página: 3689

Enquanto os prelos e os aparelhos de rádio eram ferramentas passivas em mãos humanas, os computadores já estão se transformando em agentes ativos que fogem do nosso controle e da nossa compreensão, e podem tomar iniciativas que definem a sociedade, a cultura e a história. — Página: 3695

Os leitores podem se perguntar se é justificável atribuir tanta culpa aos algoritmos do Facebook, e de forma mais geral à nova tecnologia das redes sociais. Se Heinrich Kramer usou o prelo para difundir discursos de ódio, a culpa foi do prelo de Gutenberg? — Página: 3738

Nota: Esse é um ponto importante sobre as diferentes ferramentas e suas responsabilidades

O mais importante aqui é entender que os algoritmos de rede social são fundamentalmente diferentes de prelos e de aparelhos de rádio. Em 2016-7, os algoritmos do Facebook tomavam decisões, ativa e fatidicamente, por conta própria. — Página: 3748

No caso da Bíblia, o poder supremo não estava nas mãos dos autores que compuseram diferentes tratados religiosos, mas nas dos curadores que criavam listas de recomendações. Era esse o tipo de poder exercido pelos algoritmos de rede social nos anos 2010. — Página: 3762

Nota: É isso que diferentes algoritmos fazem. Tomam decisões por vezes com base em objetivos diferentes do que é a intenção do usuário.

Em consonância com esse modelo de negócios, gestores humanos deram aos algoritmos da empresa uma missão suprema: aumentar o engajamento dos usuários. — Página: 3781

Nunca há um único culpado para campanhas de limpeza étnica. Há culpa suficiente a ser compartilhada por diversas partes responsáveis. — Página: 3786

Esta é a marca registrada da ia — a capacidade que uma máquina tem de aprender e de agir por conta própria. — Página: 3791

Nota: Não é bem essa a ideia de uma IA mas para os argumentos do livro ela é suficiente

Soldados humanos são moldados pelo código genético e obedecem a ordens dos executivos, mas, mesmo assim, são capazes de tomar decisões independentes. O mesmo vale para algoritmos de ia. Eles são capazes de aprender sozinhos coisas que nenhum engenheiro humano programou e de decidir coisas que nenhum executivo humano previu. Essa é a essência da revolução da ia. O mundo vem sendo inundado por incontáveis e poderosos novos agentes. — Página: 3799

Muita gente supõe que eu e outros como eu costumamos antropomorfizar computadores imaginando que são seres conscientes, capazes de pensar e sentir. Mas, na verdade, computadores são máquinas estúpidas que não pensam nem sentem coisa alguma e, portanto, não podem tomar decisões ou criar ideias por conta própria. — Página: 3809

Essa objeção parte do princípio de que tomar decisões e criar ideias pressupõe ter consciência. Mas isso é um grande mal-entendido que resulta de uma confusão muito mais comum entre inteligência e consciência. — Página: 3812

Mas inteligência e consciência são coisas bem diferentes. Inteligência é a capacidade de alcançar objetivos, como maximizar o envolvimento do usuário numa plataforma de rede social. Consciência é a capacidade de ter sentimentos subjetivos como dor, prazer, amor e ódio. — Página: 3815

Claro, à medida que se tornam mais inteligentes, os computadores podem acabar desenvolvendo consciência e tendo algum tipo de experiência subjetiva. Mas podem da mesma forma vir a ser muito mais inteligentes do que nós, sem jamais desenvolverem sentimento algum. — Página: 3827

Nota: Essa acho que é a maior questão sobre computadores. Eles são capazes de atingir objetivos de forma mais eficaz sem necessariamente saber o por que disso.

Assim como aviões voam muito mais rápido do que pássaros sem precisar desenvolver penas, pode ser que os computadores venham a resolver problemas bem melhor do que os seres humanos, sem que jamais desenvolvam sentimentos. — Página: 3832

Captcha é um acrônimo de “Completely Automated Public Turing test to tell Computers and Humans Apart [Teste de Turing público completamente automatizado para distinguir entre computadores e humanos]” — Página: 3850

Mas, com esses objetivos em vista, os algoritmos demonstraram considerável autonomia ao decidir como alcançá-los. — Página: 3867

Na verdade, o livro argumenta que o surgimento de computadores capazes de alcançar objetivos e tomar decisões por conta própria altera a estrutura fundamental da nossa rede de informações. — Página: 3879

Antes do surgimento dos computadores, os seres humanos eram elos indispensáveis em todas as cadeias de redes de informação, como Igrejas e Estados. — Página: 3881

Já as cadeias de computador para computador agora podem funcionar sem que haja humanos no circuito. — Página: 3890

Tudo isso pode se dar em segundos, antes que qualquer ser humano consiga perceber e decifrar o que é que todos esses computadores estão fazendo. — Página: 3895

Nota: E provavelmente será cada vez mais acelerado e provável

Outro jeito de entender a diferença entre computadores e todas as tecnologias que vieram antes é lembrar que computadores são membros plenos e ativos da rede de informações, enquanto as tabuinhas de argila, os prelos e os aparelhos de rádio não passavam de conexões entre os membros. Membros são agentes ativos capazes de tomar decisões e gerar novas ideias por conta própria. Conexões se limitam a transmitir informações entre os membros, sem decidir ou gerar coisa alguma. — Página: 3896

Os computadores podem, em tese, se tornar membros mais poderosos do que os humanos. — Página: 3907

Durante dezenas de milhares de anos, o superpoder dos sapiens foi a nossa aptidão única de utilizar a linguagem para criar realidades intersubjetivas, como leis e moedas, e então usar essas realidades intersubjetivas para nos conectarmos com outros sapiens. Mas os computadores podem muito bem virar o jogo contra nós. — Página: 3907

Podemos chegar a um ponto em que os computadores dominem os mercados financeiros e inventem ferramentas completamente novas, além da nossa capacidade de entendimento. — Página: 3916

Por outro lado, a ia não só pode redigir novas escrituras, como também é perfeitamente capaz de fazer a curadoria delas e interpretá-las. Não é necessário nenhum ser humano no circuito. — Página: 3964

Quando nos envolvemos num debate político com um computador que finge ser humano, perdemos duas vezes. Primeiro porque é inútil empregar nosso tempo tentando mudar as opiniões de um bot de propaganda, que é invulnerável à persuasão. Depois porque quanto mais falamos com um computador, mais nos revelamos, facilitando para ele a tarefa de aprimorar seus argumentos e influenciar as nossas opiniões. — Página: 3969

Se um chatbot é capaz de convencer um humano a arriscar o próprio emprego por sua causa, o que mais poderia nos induzir a fazer? — Página: 3981

História é uma interação entre biologia e cultura; entre nossas necessidades biológicas e nossos desejos por coisas como comida, sexo e intimidade, e nossas criações culturais, como as religiões e as leis. — Página: 4002

O que acontecerá com o curso da história quando computadores desempenharem um papel cada vez maior na cultura e começarem a produzir estórias, leis e religiões? Dentro de poucos anos, a ia poderá engolir toda a cultura humana — tudo o que produzimos ao longo de milhares de anos —, digeri-la e começar a expelir um dilúvio de novos artefatos culturais. — Página: 4005

Vivemos dentro de um casulo de cultura, vivenciando a realidade através de um prisma cultural. — Página: 4008

Mas, da mesma forma que artistas humanos como Bach podem romper com a tradição e inovar, computadores também podem apresentar inovações culturais, compondo música ou criando imagens um tanto diferentes de tudo o que os humanos já produziram. — Página: 4016

Nota: Mesmo que isso as vezes seja limitado.

Durante milênios, seres humanos viveram dentro dos sonhos de outros seres humanos. Nas próximas décadas, podemos estar vivendo dentro dos sonhos de uma inteligência alienígena. — Página: 4019

O que você acabou de ler talvez o tenha assustado ou irritado. Talvez o tenha levado a sentir raiva das pessoas que encabeçam a revolução dos computadores e dos governos que não a regulam. Talvez o tenha deixado com raiva de mim, achando que distorço a realidade, sou alarmista e engano as pessoas. Independente disso, os parágrafos anteriores talvez tenham tido algum efeito emocional sobre você. Contei uma estória, e essa estória pode mudar sua opinião sobre certas coisas, e até mesmo fazer com que tome certas atitudes no mundo. Quem criou essa estória que você acaba de ler? Juro que eu mesmo escrevi o texto, com a ajuda de outros humanos. Juro que isto é um produto cultural da mente humana. Mas você pode ter absoluta certeza disso? Alguns anos atrás, poderia. Antes dos anos 2020, não havia nada no mundo, além da mente humana, que pudesse produzir textos sofisticados. Hoje as coisas são diferentes. Em tese, o texto que você acabou de ler poderia ter sido gerado pela inteligência alienígena de um computador. — Página: 4037

Tente imaginar o efeito de um livro sagrado que seja capaz não só de falar e ouvir, como também de conhecer nossos medos e esperanças mais profundos, e influenciá-los o tempo todo. — Página: 4052

Em segundo, têm surgido cadeias de computadores para computadores nas quais computadores interagem entre si por iniciativa própria. — Página: 4054

Num futuro previsível com razoável certeza, a rede baseada em computadores ainda incluirá bilhões de seres humanos, mas podemos nos tornar minoria. — Página: 4067

Nota: Isso provavelmente vai acontecer bem antes do que imaginamos

Nossa imagem de computador ainda tende a ser a de uma caixa de metal com tela e teclado, porque essa é a forma que a nossa imaginação orgânica deu aos computadores-bebês no século xx. — Página: 4085

Organismos são entidades individuais distintas, que podem ser agrupadas em coletivos como espécies e gêneros. Com os computadores, no entanto, é cada vez mais difícil decidir onde uma entidade acaba e outra começa, e como, exatamente, agrupá-las. — Página: 4095

Neste livro, uso o termo “computador” em referência a todo o complexo de software e hardware, manifestado em forma física. — Página: 4097

Também uso o termo “algoritmo” para ressaltar aspectos de software, mas é importante lembrar que todos os algoritmos mencionados nas páginas subsequentes são executáveis num computador ou em outro. — Página: 4104

Uso o termo “ia” quando quero enfatizar a capacidade que alguns algoritmos têm de aprender e de mudar por conta própria. — Página: 4105

a ia pela métrica da “inteligência no nível humano”, e muito se debate sobre quando podemos esperar que as ias atinjam a “inteligência no nível humano”. No entanto, o uso dessa métrica é terrivelmente confuso. É como definir e avaliar aeronaves pela métrica do “voo no nível do pássaro”. — Página: 4109

A ia não está avançando em direção à inteligência de nível humano. Ela evolui em direção a um tipo de inteligência totalmente diferente. — Página: 4111

Outro termo que confunde é “robô”. Neste livro, ele é usado quando me refiro a casos em que um computador se movimenta e opera na esfera física; — Página: 4113

já o termo “bot” se refere a algoritmos que operam, sobretudo, na esfera digital. — Página: 4114

tenho uma tendência a falar de “rede” baseada em computador, no singular, em vez de “redes”, no plural. Sei muito bem que computadores podem ser usados para criar muitas redes com características diversas, e o capítulo 11 explora a possibilidade de que o mundo venha a ser dividido entre redes de computador diferentes e até hostis. Contudo, da mesma forma como tribos, reinos e igrejas diferentes compartilham importantes características que nos permitem falar em uma única rede humana que veio a dominar o planeta Terra, prefiro falar da rede de computadores, no singular, para poder contrastá-la com a rede humana que ela está substituindo. — Página: 4116

O que deve ficar claro desde o início é que essa rede vai criar realidades políticas e pessoas inteiramente novas. — Página: 4124

Quando escrevemos um código de computador, não estamos apenas projetando um produto. Estamos redesenhando a política, a sociedade e a cultura, portanto é melhor ter um bom entendimento da política, da sociedade e da cultura. Precisamos também assumir a responsabilidade pelo que estamos fazendo. — Página: 4130

Nota: Isso é o ponto chave de uma ciência da computação bem estruturado e humana

Gigantes da tecnologia como Facebook, Amazon, Baidu e Alibaba não são meros servos obedientes dos caprichos dos clientes e das regulamentações governamentais. Na verdade, eles definem cada vez mais esses caprichos e essas regulamentações. — Página: 4139

A verdade é que não conhecemos. Não porque sejamos burros, mas porque a tecnologia é bastante complicada e as coisas avançam a uma velocidade vertiginosa. — Página: 4153

Na literatura tributária, “nexo” significa a conexão de uma entidade com determinada jurisdição. — Página: 4177

Assim como a Shell e a bp pagam impostos aos países dos quais extraem petróleo, os gigantes da tecnologia deveriam pagar impostos aos países de onde extraem dados. — Página: 4183

Nota: Isso parece óbvio não? Mas pelo visto não é o que acontece

Esses acordos de informação em troca de informação já se generalizaram. Todos os dias, bilhões de seres humanos realizam numerosas transações com os gigantes da tecnologia, mas não dá para adivinhar olhando para as nossas contas bancárias, porque é como se nenhum dinheiro saísse do lugar. — Página: 4196

À medida que mais e mais transações obedecem a esse modelo de informação por informação, a economia da informação cresce à custa da economia monetária, até que o próprio conceito de dinheiro se torne duvidoso. — Página: 4198

Uma pessoa ou empresa com pouco dinheiro no banco, mas com um imenso banco de dados de informações, pode ser a entidade mais rica e mais poderosa do país. — Página: 4203

Infelizmente, a maioria deles não usa seus conhecimentos para ajudar a regular o explosivo potencial das novas tecnologias. Na verdade, usam esses conhecimentos para ganhar bilhões de dólares — ou acumular petabits de informação. — Página: 4230

As pessoas que encabeçam a revolução da informação conhecem muito melhor a tecnologia subjacente do que as pessoas incumbidas de regulamentá-la. — Página: 4239

Quando máquinas impressoras ou algoritmos de aprendizado de máquina são inventados, é inevitável que isso resulte numa profunda revolução social e política. No entanto, os humanos ainda têm muito controle sobre o ritmo, a forma e a direção dessa revolução — o que significa que também temos uma grande responsabilidade. — Página: 4249

Claro, os computadores pessoais poderiam ter surgido em um tempo e um lugar diferentes. Mas, em história, tempo e lugar são determinantes, e não há dois momentos iguais. — Página: 4276

No momento, vivemos um impasse político sobre mudanças climáticas, em parte porque os computadores estão num impasse. Cálculos executados por eles nos advertem sobre uma catástrofe ecológica iminente, ao passo que outro conjunto deles nos estimula a ver vídeos que questionam esses alertas. Em que conjunto de computadores vamos acreditar? A política humana agora é também a política dos computadores. — Página: 4304

Os humanos estão acostumados a monitoramento. Durante milhões de anos, fomos vigiados e seguidos por outros animais, assim como por outros seres humanos. Parentes, amigos e vizinhos sempre quiseram saber o que fazemos ou sentimos, e sempre demos grande importância à maneira como nos veem e ao que sabem a nosso respeito. — Página: 4313

O verdadeiro poder da Securitate e da kgb não era a capacidade de vigiar todo mundo o tempo todo, mas a de infundir o medo de que pudessem estar vigiando, o que tornava todos extremamente cautelosos com tudo que diziam e faziam. — Página: 4380

Em 2024, estamos nos aproximando do ponto em que uma rede ubíqua de computadores pode monitorar a população de países inteiros 24 horas por dia. — Página: 4387

Nós mesmos somos os informantes que fornecem à rede os dados brutos a nosso respeito. — Página: 4393

No futuro, os algoritmos podem até vir a criar um modelo inteiramente novo de radicalização das pessoas, apenas identificando padrões na vida de terroristas conhecidos. — Página: 4424

Nota: Isso não me parece muito absurdo de ser construído.

Burocratas inorgânicos podem estar “ligados” 24 horas por dia e nos monitorar e interagir conosco em qualquer lugar, a qualquer momento. Isso significa que burocracia e vigilância não são mais coisas inerentes a momentos e lugares específicos. — Página: 4443

Os peixes vivem na água, os humanos, numa burocracia digital, inalando e exalando dados o tempo todo. Tudo o que fazemos deixa um rastro de dados, que são coletados e analisados para identificar padrões. — Página: 4447

Para o bem ou para o mal, a burocracia digital pode não apenas monitorar o que fazemos no mundo, mas até observar o que acontece dentro do nosso corpo. — Página: 4449

Em tese, os ditadores do futuro podem fazer com que sua rede de computadores vá bem mais longe do que simplesmente observar os nossos olhos. Se a rede quiser saber as nossas opiniões políticas, os nossos traços de personalidade ou a nossa orientação sexual, pode monitorar processos dentro do nosso coração e do nosso cérebro. — Página: 4466

Portanto, embora a coleta de dados dentro do cérebro das pessoas já seja mais viável, usar esses dados para decifrar os nossos segredos está bem longe de ser simples. — Página: 4485

As pessoas deveriam se preocupar com os smartphones nos quais leem essas teorias da conspiração. — Página: 4489

A rede pode aprender exatamente o que deixa cada ser humano irritado, amedrontado ou alegre. Ela poderia então prever e manipular nossos sentimentos, vendendo-nos o que bem entendesse — um produto, um político, uma guerra.20 — Página: 4500

Num mundo em que humanos monitoram humanos, a privacidade sempre foi a norma. Mas, num mundo em que computadores monitoram humanos, pode ser possível, pela primeira vez na história, eliminar a privacidade por completo. — Página: 4503

Por exemplo, quando cidadãos pedem passaporte, mais de 140 países os obrigam a tirar impressões digitais e a fazer escaneamento facial ou da íris.24 E, ao apresentarmos nossos passaportes para entrar num país, quase sempre esse país também exige que lhe forneçamos impressões digitais e escaneamento facial ou da íris. — Página: 4521

Nota: Isso é extremamente comum

No total, em 2023 mais de 1 bilhão de câmeras de circuito fechado operavam globalmente, o que significa, em média, uma câmera para cada oito pessoas. — Página: 4526

Algoritmos de reconhecimento facial e bancos de dados pesquisáveis por ia são agora usados rotineiramente por forças policiais no mundo inteiro. São empregados não apenas em casos de emergência nacional ou por razões de segurança do Estado, mas em tarefas diárias da polícia. — Página: 4552

Nas mãos erradas, as mesmas técnicas que ajudam a localizar desordeiros, resgatar crianças desaparecidas e banir arruaceiros do futebol também podem ser usadas para perseguir manifestantes pacíficos, ou para impor um conformismo rígido. — Página: 4575

O depoimento de Maryam indica que a ia envia suas mensagens de ameaça em segundos, sem dar tempo para que um humano examine e autorize o procedimento. — Página: 4613

Nota: É isso é um tipo de problema em qualquer sistema de IA

Mesmo em Nova York, um cônjuge pode ser monitorado e cerceado, como se vivesse num Estado totalitário.41 — Página: 4640

Nota: A capacidade de monitoramento é absurda

A estudiosa americana Shoshana Zuboff denominou esse sistema de monitoramento comercial em eterna expansão de “capitalismo de vigilância”. — Página: 4649

Isso é vigilância entre pares. Todo mundo, o tempo todo, avalia todo mundo. — Página: 4662

Agora, quando clientes entram num táxi ou numa barbearia, vêm armados de câmera, de microfone, de uma rede de vigilância, e com milhares de possíveis espectadores a tiracolo.47 É a base de uma rede de vigilância não governamental entre pares. — Página: 4677

É o sistema de crédito social, que procura avaliar as pessoas em todas as situações e produzir uma nota pessoal geral que influenciará tudo. — Página: 4682

O que os sistemas de crédito social buscam é uma avaliação padronizada do mercado de reputação. — Página: 4694

Uma diferença importante entre dinheiro e reputação é que o dinheiro tende a ser uma construção matemática baseada em cálculos precisos, ao passo que a esfera da reputação resiste à avaliação numérica precisa. — Página: 4698

Essa diferença entre o escrupuloso mercado de dinheiro e o mal definido mercado da reputação ainda existe. — Página: 4707

Há quem veja nos sistemas de crédito social uma forma de recompensar comportamentos pró-sociais, punir atos egoístas e criar sociedades mais educadas e harmoniosas. — Página: 4718

Mas há também quem considere humilhantes e desumanos sistemas que atribuem valores precisos a todas as ações sociais. Pior ainda: um sistema de crédito social abrangente acabaria com a privacidade e transformaria a vida numa interminável entrevista de emprego. — Página: 4722

O crédito social pode, portanto, se tornar um sistema de controle totalitário. — Página: 4727

A vida era dividida em esferas de reputação separadas, com competições de status separadas, além de haver muitos momentos em que você estava sozinho e não precisava participar de competição nenhuma. — Página: 4738

Infelizmente, algoritmos de crédito social combinados com tecnologias de vigilância onipresentes ameaçam fundir todas as competições de status numa corrida única e interminável. — Página: 4742

As redes de seres humanos estão igualmente sujeitas a ciclos biológicos. Às vezes estão ligadas; às vezes, desligadas. — Página: 4750

Já as redes de computadores podem estar sempre ligadas. Consequentemente, os computadores estão forçando os seres humanos a uma nova forma de existência na qual estamos sempre conectados e somos sempre monitorados. — Página: 4753

Precisamos impedir que a rede de computadores assuma o controle total da sociedade, não só para nos dar uma folga. — Página: 4759

Se a rede continuar a evoluir em ritmo acelerado, os erros vão se acumular bem mais depressa do que a nossa capacidade de identificá-los e corrigi-los. — Página: 4760

Mas isso não significa que a rede de computadores sempre compreenderá o mundo com precisão. Informação não é verdade. — Página: 4763

Um sistema de vigilância total pode dar origem a uma compreensão muito distorcida do mundo e dos seres humanos. Em vez de descobrir a verdade sobre o mundo e sobre nós, a rede pode usar seu imenso poder para criar uma nova espécie de ordem mundial e nos impor essa ordem. — Página: 4764

Essa história revela um fato crucial e perturbador sobre redes de informação, e em particular sobre sistemas de vigilância. Como discutido em capítulos anteriores, e contrariando a visão ingênua, as informações costumam ser usadas para criar ordem, e não para descobrir a verdade. — Página: 4785

Tal como definido pelo filósofo dissidente e satirista Aleksandr Zinovyev, Homo sovieticus eram seres humanos servis e cínicos, sem iniciativa alguma ou pensamento independente, obedecendo com passividade até mesmo às ordens mais ridículas, e indiferentes aos resultados de suas ações. — Página: 4801

os algoritmos do Facebook e do YouTube criaram trolls da internet, premiando certos instintos primitivos ao mesmo tempo que pune os nossos impulsos mais nobres e virtuosos. — Página: 4812

é notável que muitos dos principais apoiadores e assessores de Bolsonaro tenham sido originalmente youtubers que alcançaram fama e poder pela graça algorítmica. — Página: 4830

Nota: Esse é realmente um ponto bastante interessante no que diz respeito a política brasileira

Claro, os algoritmos do YouTube não são responsáveis por inventar mentiras e teorias da conspiração, nem por criar conteúdos extremistas. Pelo menos em 2017-8, tudo isso era feito por seres humanos. Os algoritmos eram responsáveis, no entanto, por incentivar seres humanos a se comportarem dessa maneira e por promover o conteúdo resultante a fim de maximizar o engajamento dos usuários. — Página: 4846

Chegamos a um ponto decisivo da história no qual importantes processos históricos são, em parte, causados por decisões de inteligência não humana. É isso que torna tão perigosa a falibilidade da rede de computadores. — Página: 4855

Nota: É isso é o que me dá mais medo com toda a certeza

Dessa maneira, as gigantes da tecnologia sempre deslocam o foco da discussão para sua difícil e positiva função de moderadoras de conteúdo produzido pelos humanos. Com isso fazem parecer que só os humanos causam problemas e os algoritmos fazem o melhor que podem para conter seus excessos. — Página: 4871

Os humanos são seres bastante complexos, e ordens sociais bem-intencionadas buscam maneiras de cultivar nossas virtudes ao mesmo tempo que reprimem nossas tendências negativas. — Página: 4894

Os algoritmos reduziram a multifacetada gama de emoções humanas — ódio, amor, indignação, alegria, confusão — a uma única categoria: engajamento. — Página: 4896

Em vez de investirem em mecanismos de autocorreção que recompensassem a disseminação da verdade, as gigantes das redes sociais desenvolveram mecanismos inéditos de amplificação de erros, que recompensavam mentiras e ficções. — Página: 4926

Nota: Mecanismos de autocorreção solo fundamentais para uns estrutura saudável de comunicação publica.

Não é que o Facebook e outras redes sociais tenham decidido inundar o mundo de fake news e conteúdos revoltantes de forma consciente. Mas acabaram perpetrando justamente isso ao instruir seus algoritmos a maximizarem o engajamento dos usuários. — Página: 4939

Nota: Esse é o problema de deixar a decisão sem medidas de consequências claras

A maior parte do conteúdo das redes sociais — pelo menos até o surgimento de poderosas ias generativas — é produzida pelos próprios usuários, e por seus cães e gatos, e não por uma classe profissional específica. — Página: 4962

o problema do alinhamento. Os computadores, quando são instruídos a atingir um objetivo específico, como aumentar o tráfego do YouTube para 1 bilhão de horas por dia, usam todo o seu poder e toda a sua engenhosidade para cumprir a missão. Como operam de maneira bem diferente dos humanos, são propensos a lançar mão de métodos que seus superiores humanos não previram. Isso pode ter consequências perigosas e inesperadas, desconectadas dos objetivos humanos originais. — Página: 4971

Da guerra criou um modelo racional para o entendimento da guerra e ainda é a teoria militar dominante. Sua máxima é que “a guerra é a continuação da política por outros meios”.23 Isso implica que a guerra não é uma explosão emocional, uma aventura heroica ou um castigo divino. A guerra não é sequer um fenômeno militar. É, na verdade, uma ferramenta política. Segundo Clausewitz, ações militares são absolutamente irracionais se não estiverem alinhadas com algum objetivo político geral. — Página: 4982

O modelo constrói uma clara hierarquia entre política de longo prazo, estratégia de médio prazo e táticas de curto prazo. As táticas só são racionais se estiverem alinhadas com algum objetivo estratégico, e a estratégia só é racional se estiver alinhada com algum objetivo político. — Página: 5019

Como discutido no capítulo 3, dividindo a realidade em gavetas separadas, a burocracia incentiva a busca de metas limitadas mesmo quando isso prejudica o bem maior. — Página: 5033

O argumento de Bostrom é de que o problema dos computadores não é serem especialmente maldosos, mas poderosos. — Página: 5054

Por serem entidades inorgânicas, eles são propensos a adotar estratégias que jamais ocorreriam a nenhum ser humano e que não estamos preparados para prever e evitar. — Página: 5065

Essa é a essência do problema do alinhamento: recompensar A enquanto esperamos que B aconteça.27 Se quisermos que os computadores maximizem benefícios sociais, é má ideia recompensá-los por maximizar o engajamento dos usuários. — Página: 5080

Nota: Esse é um ponto fundamental sempre é para qualquer IA de aprendizado

A teoria de Clausewitz, apesar de exigir que todas as ações estejam alinhadas com o objetivo final, não oferece uma maneira racional de definir esse objetivo. — Página: 5102

Uma manobra tática será racional se, e apenas se, estiver alinhada com algum objetivo estratégico mais elevado, o qual, por sua vez, precisa estar alinhado com objetivos políticos ainda mais altos. Mas onde começa essa cadeia de objetivos? — Página: 5116

Um objetivo alto como esse não pode, por definição, estar alinhado com nada mais elevado do que ele mesmo, porque não existe nada mais elevado. — Página: 5119

Se nossa única regra na vida é “toda ação tem que estar alinhada a um objetivo mais elevado”, por definição não existe um modo racional de definir esse objetivo final. — Página: 5145

Os deontologistas (do grego deon, que significa “dever”) acreditam que existem algumas obrigações morais, ou regras morais, que se aplicam a todos. Essas regras não dependem de alinhamento com um objetivo mais alto, mas, sim, da própria bondade intrínseca. — Página: 5152

Na história, muitos conflitos, talvez até a maioria, têm a ver com a definição de identidades. Todo mundo concorda que assassinato é errado, mas pensa que apenas matar membros do próprio grupo se qualificaria como “assassinato”, enquanto matar alguém de outro grupo, não. — Página: 5185

Embora o sofrimento seja, muitas vezes, causado pela crença em mitos intersubjetivos locais, o sofrimento, em si, é uma realidade universal. Portanto, usar a capacidade de sofrer como critério para definir quem pertence ao grupo relevante fundamenta a moralidade numa realidade objetiva e universal. — Página: 5198

Nota: Uma definição que leve em consideração o sofrimento parece fazer bastante sentido.

Enquanto os deontologistas se esforçam para descobrir regras universais que sejam intrinsecamente boas, os utilitaristas julgam as ações pelo seu impacto no sofrimento e na felicidade. — Página: 5205

O problema para os utilitaristas é não possuirmos um cálculo de sofrimento. Não sabemos quantos “pontos de sofrimento” ou “pontos de felicidade” atribuir a este ou aquele evento, de modo que, em situações complexas, é muito difícil calcular se determinada ação aumenta ou diminui a quantidade total de sofrimento no mundo. — Página: 5215

A morte é a causa profunda da nossa miséria, ou nossa miséria vem da nossa tentativa de negar a morte? — Página: 5253

Assim como deontologistas que tentam responder à questão da identidade são levados a adotar ideias utilitaristas, utilitaristas frustrados com a falta de um cálculo de sofrimento acabam, muitas vezes, adotando uma posição deontológica. — Página: 5260

O perigo do utilitarismo é que, se você acreditar com força suficiente numa utopia futura, essa crença pode se tornar uma licença para infligir sofrimentos terríveis no presente. Na verdade, esse é um truque que as religiões tradicionais descobriram há milhares de anos. Os crimes e as injustiças deste mundo poderiam ser facilmente tolerados pelas promessas de salvação futura. — Página: 5270

No entanto, uma das coisas mais importantes que devemos ter em mente em relação aos computadores é que, quando trabalham juntos e se comunicam entre si, muitos computadores podem criar realidades intercomputadores análogas às realidades intersubjetivas produzidas por redes de humanos. — Página: 5284

Assim como realidades intersubjetivas, do tipo dinheiro e deus, podem influenciar a realidade física fora da cabeça das pessoas, as realidades intercomputadores podem influenciar a realidade fora dos computadores. — Página: 5294

Nota: Exemplo do pokemon go e outros jogos que tiveram impactos no mundo real.

A classificação em si é uma realidade intercomputadores, existindo numa rede que conecta bilhões de computadores — a internet. — Página: 5309

Nota: Essa realidade é construída pela relação entre pessoas e sistemas de informação.

Por milhares de anos, guerras foram travadas em torno de entidades intersubjetivas como pedras sagradas. No século xxi, pode ser que venhamos a testemunhar guerras travadas em torno de entidades intercomputadores. — Página: 5329

A lei americana já reconhece corporações como pessoas jurídicas, possuidoras de direitos como liberdade de expressão. No caso Citizens United v. Federal Election Comission (2010), a Suprema Corte dos Estados Unidos decidiu que isso protege até o direito de as corporações fazerem doações políticas.52 O que impediria as ias de serem reconhecidas como pessoas jurídicas com liberdade de expressão e de fazerem lobby e doações políticas para proteger e ampliar os seus direitos? — Página: 5346

Nota: Que?????

À medida que substituem seres humanos nas burocracias, da cobrança de impostos à assistência médica e à distribuição de justiça, os computadores também podem criar uma mitologia e nos impor essa mitologia com uma eficiência sem precedentes. — Página: 5384

Ser pecador ou santo vai depender de cálculos algorítmicos, não de crenças humanas. Esse sistema estaria descobrindo a verdade sobre as pessoas ou impondo uma ordem a elas? — Página: 5405

Nota: Aqui me parece ter um problema entre classificação e regressão.

O princípio fundamental do aprendizado de máquina é que algoritmos podem aprender coisas novas sozinhos interagindo com o mundo, da mesma forma como os humanos fazem, produzindo assim uma inteligência artificial plenamente desenvolvida. — Página: 5444

Na verdade, essas tecnologias estão equipadas com robustos mecanismos de autocorreção, que lhes permitem aprender com os próprios erros. — Página: 5451

Nota: Esse é provavelmente o principal ponto de uma IA.

Mas quando se treina um algoritmo para contratar pessoal, por exemplo, como definir o objetivo? Como o algoritmo vai saber que cometeu um erro e contratou a pessoa “errada”? — Página: 5474

Infelizmente, se empresas reais no mundo real já sofrem de preconceitos arraigados, é provável que o algoritmo-bebê assimile esses preconceitos, e até mesmo os amplie. — Página: 5482

Se não nos livrarmos do preconceito logo no início, os computadores podem não só perpetuá-lo, como também ampliá-lo. — Página: 5503

Vários dos preconceitos algorítmicos analisados neste capítulo e em capítulos anteriores compartilham um problema fundamental: o computador supõe ter descoberto alguma verdade sobre os humanos quando, na verdade, apenas lhes impôs uma ordem. — Página: 5509

Nota: Ponto chave muito forte. Esse é provavelmente um dos pontos mais críticos de viés algorítmica.

E é bastante provável que os computadores, se forem investidos de poder, de fato provoquem desastres, pois são falíveis. — Página: 5533

Dizer que os computadores são falíveis significa muito mais do que dizer que eles de vez em quando cometem um erro factual ou tomam uma decisão equivocada. Mais importante é que, como a rede humana antes dela, a rede de computadores pode não encontrar mais o equilíbrio perfeito entre verdade e ordem. Criando e nos impondo poderosos mitos intercomputadores, a rede de computadores poderia provocar calamidades históricas perto das quais a caça às bruxas ou a coletivização de Stálin vão parecer tímidas. — Página: 5534

Algoritmos-bebês deveriam aprender a duvidar de si mesmos, a sinalizar incerteza e a obedecer princípios de precaução. Isso não é impossível. Engenheiros já lograram considerável avanço ao incentivar ias a expressar dúvidas sobre si mesmas, pedir feedback e reconhecer erros. — Página: 5552

Para nos protegermos de uma infinidade de problemas imprevisíveis, o melhor que podemos fazer é criar instituições vivas capazes de identificar e responder às ameaças à medida que forem surgindo. — Página: 5563

Para concluir, a nova rede de computadores não será necessariamente boa ou má. O que sabemos ao certo é que será alienígena e falível, e que precisamos, portanto, construir instituições capazes de checar não apenas fraquezas humanas conhecidas, como a ganância e o ódio, mas também erros alienígenas radicais. — Página: 5568

As civilizações nascem do casamento entre burocracia e mitologia. — Página: 5576

Mesmo que, ao fim, os aspectos positivos dessas tecnologias superem os negativos, haverá diversas provações e tribulações até se chegar a esse final feliz. — Página: 5588

Uma tecnologia nova muitas vezes conduz a calamidades históricas, não porque a tecnologia é intrinsecamente má, mas porque leva tempo até que os seres humanos aprendam a usá-la com sabedoria. — Página: 5589

Alguns imperialistas argumentavam que a aquisição de colônias era não só essencial para a sobrevivência de seus próprios Estados, como também benéfica para o restante da humanidade. Alegavam que os impérios sozinhos seriam capazes de espalhar as bênçãos das novas tecnologias ao mundo dito subdesenvolvido. — Página: 5601

A própria existência de receitas rivais para a construção de sociedades industriais levava a choques e conflitos custosos. As duas guerras mundiais e a Guerra Fria podem ser vistas como um debate sobre a maneira adequada de avançar, em que todos os lados aprendiam uns com os outros, ao experimentar os novos métodos industriais para travar guerra. — Página: 5619

Mas, apesar disso, a mensagem para o século xxi é desoladora. Se a humanidade precisou de tantas lições terríveis para aprender a usar a energia a vapor e os telégrafos, qual será o preço de aprender a usar a bioengenharia e a ia? — Página: 5634

Nota: Esse é um ponto interessante. As tecnologias sempre tiveram impactos positivos e negaticos. Quanto maiores forem as suas capacidades maiores os impactos em ambos os lados.

Em vista da nossa incapacidade de prever como se desenvolverá a nova rede computacional, nossa melhor chance de evitar a catástrofe neste século é manter mecanismos autocorretores democráticos, capazes de identificar e corrigir erros conforme avançamos. — Página: 5643

O primeiro princípio é a benevolência. Quando uma rede computacional coleta informação sobre mim, essa informação deve ser usada para me ajudar, e não para me manipular. — Página: 5674

O acesso à nossa vida pessoal vem acompanhado por um dever fiduciário de agir em função de nossos melhores interesses. — Página: 5683

Ou, como alternativa, os cidadãos poderiam considerar alguns serviços digitais tão fundamentais que deveriam ser gratuitos para todos. — Página: 5692

Nota: Seria interessante ter um modelo de rede socialbl publica? Imagine um pix social?

O segundo princípio que protegeria a democracia contra o surgimento de regimes de vigilância totalitários é a descentralização. Uma sociedade democrática nunca deve permitir que toda sua informação fique concentrada num único lugar, quer essa central seja o governo ou uma empresa privada. — Página: 5695

Para a sobrevivência da democracia, certo grau de ineficiência é uma funcionalidade, não uma falha. — Página: 5701

Nota: Às vezes a ineficiência e uma funcionalidade necessária. Imagine o ensino a distância vs presencial

Um terceiro princípio democrático é a mutualidade. Se as democracias aumentam a vigilância sobre os indivíduos, eles devem, ao mesmo tempo, aumentar a vigilância sobre os governos e também sobre as corporações. — Página: 5709

Se eles sabem mais a nosso respeito e, ao mesmo tempo, nós sabemos mais a respeito deles, o equilíbrio está mantido. A ideia não é nova. — Página: 5719

Um quarto princípio democrático é que os sistemas de vigilância sempre devem deixar espaço para mudar e descansar. Na história humana, a opressão pode assumir a forma de negar aos seres humanos a capacidade de mudar ou a oportunidade de descansar. — Página: 5725

As sociedades democráticas que empregam uma poderosa tecnologia de vigilância precisam, portanto, ter cuidado com os dois extremos: o excesso de rigidez e o excesso de maleabilidade. — Página: 5737

A vida humana é um ato de equilíbrio entre tentar melhorar a nós mesmos e aceitar quem somos. — Página: 5759

A história é repleta de rígidos sistemas de casta que negavam aos seres humanos a capacidade de mudar, mas também é repleta de ditadores que tentavam moldar os seres humanos como se fossem argila. — Página: 5762

É altamente improvável que até 2050 tenham desaparecido todos os empregos humanos. O verdadeiro problema na verdade é a correria e a confusão para se adaptar a novos empregos e condições. — Página: 5781

Por exemplo, os intelectuais tendem a valorizar mais as habilidades intelectuais do que as sociais e motoras. Mas, na verdade, é mais fácil automatizar o jogo de xadrez do que, digamos, a lavagem de pratos. — Página: 5787

Nota: Tá aí um exemplo interessante de divergência entre mundo intelectual e braçal que pode ter grande um pó actonofuturo

Outra suposição corrente, mas equivocada, é de que a criatividade é exclusiva dos seres humanos, de forma que seria difícil automatizar qualquer tarefa que demande criatividade. — Página: 5804

Uma terceira suposição equivocada é a de que os computadores não conseguiriam substituir os seres humanos em tarefas que demandam inteligência emocional, desde terapeutas até professores. — Página: 5810

Em decorrência disso, quando avaliamos a probabilidade de que vários serviços e papéis sociais sejam automatizados, uma questão fundamental é saber o que as pessoas realmente querem. Querem apenas resolver um problema, ou estão tentando estabelecer uma relação com outro ser consciente? — Página: 5846

Alegadamente, apenas uma entidade capaz de sentir dor e amor pode também nos conectar com o divino. — Página: 5860

como os sacerdotes — podem vir a ser assumidas pelos computadores, pois, como notamos no capítulo 6, é possível que algum dia os computadores consigam adquirir a capacidade de sentir dor e amor. Mesmo que não consigam, os seres humanos podem vir a tratá-los como se conseguissem, pois a conexão entre consciência e relacionamentos opera nos dois sentidos. — Página: 5862

Consideramos que as entidades são conscientes não porque tenhamos provas disso, mas porque nos tornamos emocionalmente ligados a elas. — Página: 5869

Nota: Esse é um argumento interessante

O que está claro é que o futuro do emprego será muito volátil. Nosso grande problema não será a absoluta falta de empregos, mas, sim, a reciclagem e a adaptação a um mercado de trabalho em constante transformação. — Página: 5877

Os progressistas tendem a subestimar a importância das tradições e das instituições existentes e a crer que são capazes de criar estruturas sociais melhores a partir do zero. Os conservadores tendem a ser mais cautelosos. Sua percepção central, que teve sua formulação mais famosa nas palavras de Edmund Burke, é que a realidade social é bem mais complicada do que percebem os paladinos do progresso e que as pessoas não são muito boas em entender o mundo e prever o futuro. É por isso que é melhor deixar as coisas como estão — mesmo que pareçam injustas —, e se alguma mudança for inevitável, que seja gradual e limitada. — Página: 5890

Dizem que as instituições existentes são tão disfuncionais que simplesmente não há outra alternativa senão construir estruturas inteiramente novas. Mas essa visão, quer seja correta ou errada, é, em essência, revolucionária, e não conservadora. — Página: 5913

A habilidade humana mais importante para sobreviver ao século xxi é, provavelmente, a flexibilidade, e as democracias são mais flexíveis do que os regimes totalitários. — Página: 5942

Se cidadãos, legisladores, jornalistas e juízes não conseguem entender como opera o sistema burocrático do Estado, não conseguem mais supervisioná-lo e perdem a confiança nele. — Página: 5954

Nota: Transparência e fundamental

Os juízes argumentaram que o uso da avaliação algorítmica dos riscos é legítimo mesmo quando a metodologia do algoritmo não é revelada ao tribunal nem ao réu. — Página: 6010

Nota: Que??!!??!!

Conforme a sociedade entrega um número sempre maior de decisões aos computadores, ela enfraquece a viabilidade de mecanismos autocorretores democráticos e da prestação de contas e transparência democráticas. — Página: 6033

o direito a uma explicação. O Regulamento Geral de Proteção de Dados da União Europeia (gdpr), que entrou em vigor em 2018, estabelece que, se um algoritmo toma uma decisão sobre um ser humano — negando-nos crédito, por exemplo —, essa pessoa tem o direito de obter uma explicação sobre a decisão e de contestar essa decisão perante alguma autoridade humana. — Página: 6035

Segundo, o movimento 37 demonstrou a insondabilidade da ia. Mesmo depois que o AlphaGo fez esse movimento para conquistar a vitória, Suleyman e sua equipe não conseguiram explicar como o AlphaGo decidira fazê-lo. — Página: 6064

Muitas tecnologias e sistemas estão se tornando tão complexos que extrapolam a capacidade de qualquer indivíduo de realmente entendê-los […]. Hoje, na ia, as redes neurais que estão avançando para a autonomia não são explicáveis. — Página: 6069

O surgimento de uma inteligência estranha insondável enfraquece a democracia. Se as decisões sobre a vida das pessoas são tomadas em quantidades cada vez maiores dentro de uma caixa-preta, de modo que os cidadãos não conseguem entendê-las e questioná-las, a democracia deixa de funcionar. — Página: 6075

A crescente insondabilidade de nossa rede de informação é uma das razões da recente onda de partidos populistas e líderes carismáticos. Quando as pessoas não conseguem mais entender o mundo e se sentem inundadas por uma enxurrada de informações que não conseguem digerir, elas se tornam presa fácil de teorias conspiratórias e buscam salvação em algo que entendam — um ser humano. — Página: 6088

Somos tão inábeis em sopesar juntos muitos fatores diferentes que, quando as pessoas apresentam várias razões para determinada decisão, isso tende a parecer suspeito. — Página: 6097

Você pode achar que foi injustamente tratado pelo banco e se queixa: “É razoável recusar meu pedido de empréstimo só porque a bateria de meu celular estava com pouca carga?”. Mas não adiantaria. “A bateria não foi a única razão”, o banco explicaria. “Foi apenas um dos mil fatores que nosso algoritmo levou em conta.” — Página: 6124

Na verdade, o problema de muitos preconceitos humanos é que eles se concentram em apenas um ou dois pontos de dados — Página: 6133

Não é só a questão de termos de levar em conta numerosos pontos de dados. O mais importante, talvez, é que não conseguimos entender como os algoritmos encontram padrões nos dados e decidem a atribuição de pontos. — Página: 6140

Há, porém, uma réstia de luz nessa nuvem opaca de números. Um leigo pode ser incapaz de verificar algoritmos complexos, mas uma equipe de especialistas, trabalhando com seus próprios ajudantes de ia, é potencialmente capaz de avaliar a equidade de decisões algorítmicas de modo ainda mais confiável — Página: 6146

Assim como frequentemente é melhor usar um ladrão para pegar outro ladrão, também podemos usar um algoritmo para examinar outro algoritmo. — Página: 6161

A nova rede computacional impõe uma última ameaça à democracia. Em vez do totalitarismo digital, ela pode fomentar a anarquia digital. — Página: 6201

Para funcionar, uma democracia precisa atender a duas condições: possibilitar uma livre conversa pública sobre questões-chave e manter um mínimo de ordem social e confiança institucional. — Página: 6203

Sempre que novos grupos entram na conversa, eles trazem novos interesses e novos pontos de vista, e muitas vezes questionam o consenso anterior sobre a condução do debate e a tomada de decisões. As regras de discussão precisam ser renegociadas. — Página: 6212

Se me envolvo num debate político online com uma ia, é perda de tempo tentar mudar as opiniões dela; sendo uma entidade não consciente, ela de fato não se importa com a política nem pode votar nas eleições. Mas, quanto mais eu falo com a ia, melhor ela passa a me conhecer e, assim, consegue ganhar minha confiança, aprimorar seus argumentos e, aos poucos, mudar minhas opiniões. — Página: 6238

E, por fim, os algoritmos não estão apenas entrando na conversa; cada vez mais são eles a orquestrá-la. — Página: 6244

O que se aplica à falsificação de dinheiro também pode se aplicar à falsificação de seres humanos. Se os governos adotaram medidas decisivas para proteger a confiança no dinheiro, faz sentido tomar medidas igualmente assertivas para proteger a confiança nos humanos. — Página: 6265

Assim, Dennett sugere que os governos venham a banir os seres humanos falsos de modo tão decidido quanto baniram o dinheiro falso. — Página: 6270

Outra medida importante que as democracias podem adotar é impedir que algoritmos não supervisionados cuidem de debates públicos de grande importância. — Página: 6281

O que quero apontar aqui é que apenas as democracias podem regular o mercado de informação e que a própria sobrevivência delas depende dessas regulações. — Página: 6291

A verdade é que, embora possamos ver facilmente que a rede de informação democrática está se desafazendo, não sabemos com certeza a razão. Isso é, em si, uma característica dos tempos. A rede de informação se tornou tão complicada e tão dependente de decisões algorítmicas e entidades intercomputadores opacas que ficou bastante difícil respondermos até mesmo à mais básica das perguntas políticas: por que estamos brigando uns com os outros? — Página: 6319

O totalitarismo procura canalizar toda a informação para um centro único, onde faz seu processamento. Tecnologias como o telégrafo, o telefone, a máquina datilográfica e o rádio facilitavam a centralização da informação, mas não conseguiam processá-la nem tomar decisões por si sós. Isso continuava a ser tarefa apenas de seres humanos. — Página: 6337

Inundar as pessoas com dados tende a sobrecarregá-las e levá-las a erro, ao passo que inundar ias com dados tende a torná-las mais eficientes. Em decorrência disso, a ia parece favorecer a concentração da informação e da tomada de decisões num único local. — Página: 6346

A tentativa de concentrar toda a informação e poder num único local, que era o calcanhar de aquiles dos regimes totalitários do século xx, pode se tornar uma vantagem decisiva na era da ia. — Página: 6369

Num sistema de blockchain, as decisões precisam da aprovação de 51% dos usuários. Isso pode parecer democrático, mas a tecnologia do blockchain tem um defeito fatal. O problema está na palavra “usuários”. Se uma pessoa tem dez contas, ela vale como dez usuários. — Página: 6373

Embora a ia possa consolidar o poder central de várias maneiras, os regimes autoritários e totalitários têm seus próprios problemas com ela. O primeiro e principal deles é que as ditaduras não têm experiência em controlar agentes inorgânicos. — Página: 6393

Os engenheiros humanos da Rússia podem se empenhar ao máximo para criar ias que sejam totalmente alinhadas com o regime, mas, devido à capacidade da ia de aprender e mudar por si mesma, como podem os engenheiros humanos garantir que ela nunca desvie de rumo e entre em território ilícito? — Página: 6407

Como me disse o guia ucraniano em Tchernóbil, as pessoas em países totalitários crescem com a ideia de que perguntar traz problema. Mas, se você treinar um algoritmo segundo o princípio de que “perguntar traz problema”, como o algoritmo vai aprender e se desenvolver? — Página: 6422

Mas como você vai treinar um chatbot a deixar pra lá que a política hoje condenada era a política oficial do ano passado? Esse é um grande problema tecnológico que as ditaduras terão dificuldade em enfrentar, especialmente à medida que os chatbots se tornam mais poderosos e opacos. — Página: 6426

A última coisa que um ditador quer é criar algo mais poderoso do que ele mesmo ou uma força que não consiga controlar. — Página: 6438

Ao dar tanto poder ao algoritmo Vigilância & Segurança, o Grande Líder se pôs numa situação insustentável. Se confiar no algoritmo, pode ser assassinado pelo ministro da Defesa, mas, se confiar no algoritmo e expurgar o ministro da Defesa, ele se tornará fantoche do algoritmo. Sempre que alguém tentar um movimento contra o algoritmo, o algoritmo sabe exatamente como manipular o Grande Líder. — Página: 6451

Tomar o poder num sistema altamente centralizado é muito mais fácil. Quando todo o poder está concentrado nas mãos de uma única pessoa, aquele que controla o acesso ao autocrata pode controlar o autocrata — e o Estado inteiro. — Página: 6461

O destino de Tibério mostra o equilíbrio delicado que todos os ditadores precisam alcançar. Eles tentam concentrar a informação num único lugar, mas devem cuidar para que os diversos canais de informação só possam se juntar em sua própria pessoa. Se os canais de informação se juntam em outro lugar, é este, então, que se torna o verdadeiro nexo do poder. — Página: 6487

Enquanto as democracias supõem que todos são falíveis, nos regimes totalitários o pressuposto fundamental é de que o partido dirigente ou o líder supremo sempre estão certos. — Página: 6498

Assim, a rede de computadores apresenta um dilema excruciante aos ditadores. Eles podem decidir escapar das garras de seus subalternos humanos confiando numa tecnologia supostamente infalível, e nesse caso podem se tornar fantoches da tecnologia. Ou podem montar uma instituição humana para supervisionar a ia, mas essa instituição, por sua vez, também poderia limitar o poder deles. — Página: 6510

Nota: Me parece que independentemente da rede de computadores um regime dtotalitario está fadado a fracassar em determinado momento

A maneira mais fácil para uma ia tomar o poder não é saindo do laboratório do dr. Frankenstein, mas conquistando as graças de algum Tibério paranoico. — Página: 6518

Nota: E isso deveria ser extremamente preocupante, no sentido de que geraria facilmente uma IA dominante. Basta que ela tenha capacidade suficiente

Alguns dos perigos mais graves postos pela ia não resultam da dinâmica interna de determinada sociedade humana. Pelo contrário, surgem da dinâmica que envolve muitas sociedades e que pode levar a novas corridas armamentistas, novas guerras e novas expansões imperiais. — Página: 6529

E se a ia sintetizar um vírus que seja tão fatal quanto o ebola, tão contagioso quanto a covid-19 e de tão lenta ação quanto a aids? No momento em que as primeiras vítimas começassem a morrer e o mundo fosse alertado sobre o perigo, a maioria das pessoas no mundo já poderia estar infectada. — Página: 6543

Nota: E isso me soa extremamente plausível de ser feito por algum istema inteligente a mando de algum governo/edtado

Muitas sociedades — tanto democráticas quanto ditatoriais — podem agir com responsabilidade para regular esses usos da ia, refrear os vilões e conter as ambições perigosas de seus governantes e fanáticos. Mas, mesmo que apenas algumas sociedades não o façam, isso bastaria para pôr em risco toda a humanidade. — Página: 6550

Muita gente descreve o sistema internacional como uma selva. Se assim for, é uma selva em que os tigres permitem que as galinhas gordas vivam em relativa segurança. — Página: 6571

os computadores estabelecem dois desafios principais ao sistema internacional de hoje. — Página: 6577

Primeiro, visto que facilitam a concentração da informação e do poder num núcleo central, a humanidade poderia ingressar numa nova era imperial. — Página: 6578

Segundo, a humanidade poderia se dividir ao longo de uma Cortina de Silício que atravessaria impérios digitais rivais. Como cada regime escolhe sua resposta própria ao problema do alinhamento da ia, ao dilema do ditador e a outros dilemas tecnológicos, cada qual poderia criar uma rede computacional separada e muito diferente. — Página: 6581

Mas uma espécie humana dividida em campos hostis que não se entendem não tem muitas chances de evitar guerras devastadoras ou de impedir uma mudança climática catastrófica. Um mundo de impérios rivais separados por uma Cortina de Silício opaca também seria incapaz de regulamentar o poder explosivo da ia. — Página: 6588

Dispor de montes de dados facilita criar uma ia. E a ia pode converter montes de dados em montes de poder. — Página: 6623

O desafio de reconhecimento visual em grande escala da ImageNet testa vários algoritmos para ver a capacidade deles de identificar as imagens com tag na base de dados. — Página: 6634

Assim como no começo do século xix a construção de ferrovias se deu com o esforço pioneiro de empreendedores privados, da mesma forma, no início do século xxi, os principais competidores iniciais na corrida da ia eram corporações privadas. — Página: 6658

No século xxi, para dominar uma colônia, não é mais necessário enviar frotas armadas. O necessário é pegar os dados. Algumas poucas corporações ou governos colhendo os dados do mundo podem transformar o resto do globo em colônias de dados — territórios que eles controlam não com a força militar aberta, e sim com a informação. — Página: 6691

Tal situação pode levar a um novo tipo de colonialismo de dados, em que o controle dos dados é utilizado para dominar colônias distantes. — Página: 6699

Nota: Em grande parte me parece que já vivemos isso afinal que empresa não utiliza um pacote Google ou Microsoft?

Assim como turistas usam os scores globais fornecidos por empresas estrangeiras como o TripAdvisor e a Airbnb para avaliar restaurantes e pousadas mesmo em seus próprios países, gente do mundo todo poderia começar a usar um score de crédito social chinês ou americano para interações sociais locais. — Página: 6717

Nota: E isso seria bizarramente factível

Numa nova economia de informação imperial, a matéria-prima será colhida por todo o mundo e irá para o centro imperial. Lá se desenvolverá a tecnologia de ponta, produzindo algoritmos imbatíveis que sabem identificar gatos, prever tendências da moda, dirigir veículos autônomos e diagnosticar doenças. Esses algoritmos serão então exportados de volta para as colônias de dados. Os dados do Egito e da Malásia podem enriquecer uma corporação em San Francisco ou Beijing, enquanto persiste a pobreza do povo no Cairo e em Kuala Lumpur, porque não há redistribuição dos lucros nem do poder. — Página: 6728

Antigamente, o ativo econômico mais importante era a terra, não a informação. Isso impedia a excessiva concentração de toda a riqueza e poder num único centro. Como a terra era de máxima importância, os proprietários fundiários nas províncias sempre mantinham considerável poder e riqueza. — Página: 6733

Durante a Revolução Industrial, as máquinas se tornaram mais importantes do que a terra. Fábricas, minas, ferrovias e estações de energia elétrica se tornaram os ativos mais valiosos. Era um tanto mais fácil concentrar esse tipo de ativo num só lugar. — Página: 6740

A informação é diferente. Ao contrário do algodão e do petróleo, os dados digitais podem ser enviados da Malásia ou do Egito para Beijing ou San Francisco quase que à velocidade da luz. E, ao contrário da terra, dos campos de petróleo ou das fábricas de tecidos, os algoritmos não ocupam muito espaço. — Página: 6746

Assim, ao contrário do poder industrial, o poder algorítmico do mundo pode ficar concentrado num único centro. Os engenheiros de um só país poderiam escrever o código e controlar as chaves para todos os algoritmos essenciais que comandam o mundo inteiro. — Página: 6748

Como observamos no capítulo 9, a automação pode deixar milhões de operários têxteis na rua, mas provavelmente criará uma diversidade de novos empregos. Por exemplo, pode haver uma enorme demanda por codificadores e analistas de dados. Mas, para que um peão de fábrica desempregado se torne um analista de dados, é preciso um substancial investimento prévio na reciclagem. Onde Paquistão e Bangladesh conseguiriam dinheiro para isso? — Página: 6762

A Cortina de Silício é feita de códigos e atravessa todos os celulares, computadores e servidores do mundo. O código em seu celular determina em que lado da Cortina de Silício você mora, que algoritmos comandam sua vida, quem controla sua atenção e para onde vão seus dados. — Página: 6776

Como o código digital influi no comportamento humano e este, por sua vez, molda o código digital, os dois lados podem estar seguindo trajetórias distintas que os tornarão cada vez mais diferentes não só na tecnologia, mas também em seus valores culturais, normas sociais e estruturas políticas. — Página: 6812

Esses antigos debates teológicos sobre a mente e o corpo podem parecer totalmente alheios à revolução da ia, mas, de fato, eles têm sido ressuscitados pelas tecnologias do século xxi. Qual é a relação entre nosso corpo físico e nossas identidades e avatares online? — Página: 6879

Nota: Parece que a reflexão sobre a relação entre o corpo e bens digitais precisa ser feita.

Uma pergunta cada vez mais importante é: as pessoas podem adotar qualquer identidade virtual que quiserem ou sua identidade deve ser restringida por seu corpo biológico? — Página: 6888

Mas o perigo de uma escalada na era da ia é maior, porque a guerra cibernética é intrinsecamente diferente da nuclear. — Página: 6919

Primeiro, as armas cibernéticas são muito mais versáteis do que as bombas nucleares. As armas cibernéticas podem derrubar a rede de energia elétrica de um país, mas também podem ser usadas para destruir um centro secreto de pesquisas, emperrar um sensor inimigo, inflamar um escândalo político, manipular as eleições ou hackear determinado celular. — Página: 6920

Uma segunda diferença fundamental é a previsibilidade. A Guerra Fria era como uma partida de xadrez hiper-racional, e era tão grande a certeza de destruição no caso de um conflito nuclear que o desejo de iniciar uma guerra era inversamente proporcional. A guerra cibernética não tem essa certeza. Ninguém sabe com precisão onde cada lado plantou suas bombas lógicas, seus cavalos de Troia e seus malwares. — Página: 6929

A teoria dos jogos postula que a situação mais perigosa numa corrida armamentista se dá quando um dos lados sente que tem uma vantagem, mas que essa vantagem logo vai passar. — Página: 6938

Entre os seres humanos, a precondição da cooperação não é a similaridade; é a capacidade de trocar informação. Enquanto formos capazes de conversar, podemos encontrar alguma estória em comum que nos aproxime. Foi isso, afinal, que tornou o Homo sapiens a espécie dominante do planeta. — Página: 6947

Se os cientistas alemães inventam uma vacina contra alguma doença nova, como os brasileiros reagiriam a essa realização alemã? Uma possibilidade é rejeitar a vacina estrangeira e esperar até que os cientistas brasileiros desenvolvam a versão brasileira. Isso, porém, não seria apenas uma tolice; seria antipatriótico. — Página: 6969

Nota: Esse é um argumento curioso e que pode ser usado para várias coisas em relação ao patriotismo.

Na verdade, a cooperação global significa duas coisas bem mais modestas. — Página: 6977

A primeira é um compromisso com algumas regras globais. — Página: 6977

O segundo princípio do globalismo é que às vezes — não sempre, mas às vezes — é necessário dar prioridade aos interesses de longo prazo de todos os seres humanos, acima dos interesses de curto prazo de uns poucos. — Página: 6982

Assim, mesmo assinando um acordo que proíba sistemas de armas autônomas, um país pode construir secretamente essas armas ou camuflá-las como produtos civis. Pode desenvolver drones totalmente autônomos para entregar correspondência e aplicar pesticidas em lavouras, por exemplo, os quais, com algumas pequenas modificações, também poderiam soltar bombas e espalhar veneno nas pessoas. — Página: 6993

O padrão mais claro na história da humanidade no longo prazo não é o conflito reiterado, e sim a escala crescente de cooperação. — Página: 7026

Ao mesmo tempo, a mudança em curso de uma economia de base material para uma economia baseada no conhecimento diminuiu os possíveis ganhos da guerra. Embora continuasse exequível conquistar arrozais e minas de ouro, na segunda metade do século xx essas já não eram mais as principais fontes de riqueza econômica. As novas indústrias de ponta, como o setor de semicondutores, vieram a se basear em qualificações técnicas e know-how organizacional que não eram obtidos com a conquista militar. — Página: 7036

Nota: Esse também parece ser um ponto importante para que guerras entre países seja menos provaveo

No início do século xxi, a média das despesas governamentais com as Forças Armadas esteve na faixa de apenas 7%, e mesmo a superpotência dominante, os Estados Unidos, só gastou por volta de 13% de seu orçamento anual para manter sua hegemonia militar. — Página: 7073

O declínio da guerra não se deu por milagre divino nem por uma metamorfose nas leis da natureza. Foi obra de seres humanos, mudando suas leis, mitos e instituições, e tomando decisões melhores. — Página: 7081

Uma das principais lições da história é que muitas das coisas que consideramos naturais e eternas são, na verdade, de lavra humana e mutáveis. — Página: 7113

A política é, em larga medida, uma questão de prioridades. — Página: 7133

As prioridades determinam o voto dos cidadãos, o interesse dos empresários e as ações dos políticos que buscam fazer nome. E, com frequência, as prioridades são moldadas por nosso entendimento da história. — Página: 7134

Uma lição é que a invenção de uma nova tecnologia da informação sempre é um catalisador de grandes mudanças históricas, pois o papel mais importante da informação não é representar realidades preexistentes, mas sim tecer novas redes. — Página: 7169

A informação assim registrada e distribuída era às vezes verdadeira, muitas vezes falsa, mas invariavelmente criava novas conexões entre um grande número de pessoas. — Página: 7174

Nos anos vindouros, todas as redes — de exércitos a religiões — ganharão milhões de novos membros de ia, que processarão os dados de uma forma diferente do que fariam os seres humanos. Esses novos membros tomarão decisões estranhas e gerarão ideias estranhas — ou seja, decisões e ideias que dificilmente ocorreriam aos seres humanos. — Página: 7190

Por um lado, devemos ter cuidado com noções ingênuas e otimistas em excesso. Informação não é verdade. Sua tarefa principal não é representar, e sim conectar, e as redes de informação ao longo de toda a história frequentemente privilegiaram a ordem acima da verdade. — Página: 7205

Por outro lado, também precisamos ter cuidado e não pender demais para a outra direção, adotando uma concepção totalmente cética. — Página: 7213

Embora muitas redes de informação privilegiem a ordem em detrimento da verdade, nenhuma dessas redes é capaz de sobreviver se ignorar totalmente a verdade. — Página: 7216

Tanto os populistas quanto os marxistas acreditam que as opiniões das pessoas são determinadas por seus privilégios e que para mudar a opinião de alguém é preciso primeiro acabar com seus privilégios — o que costuma demandar força. Contudo, como os seres humanos estão interessados na verdade, há uma chance de resolver pelo menos alguns conflitos de maneira pacífica, conversando entre nós, reconhecendo erros, adotando novas ideias e revendo as estórias em que acreditamos. — Página: 7224

Rafael Alves ITM

Explorador

Nexus

📚 Nexus

🎯 Resumo da Obra

🧠 Minha Experiência

📝 Notas de Conteúdo

🖍️ Destaques e Citações

🔗 Conexões do Cofre

📚 Referências Externas

Visão de gráfico

Sumário

Backlinks