A Atenas de Sócrates tinha escravizados. A Europa iluminista traficava pessoas. Os Estados Unidos que escreveram “todos os homens são criados iguais” mantiveram a escravidão por mais oitenta anos. Em cada caso, pessoas inteligentes, instruídas e de boa-fé viviam dentro de um mal grave e o achavam normal. O filósofo Evan Williams chamou isso de catástrofe moral em curso, e perguntou qual é a chance de estarmos em uma.
Uma analogia
Um médico que sabe que todo exame de rotina costuma esconder algum problema não sai do consultório dizendo “comigo não”. Ele pede os exames. O argumento das catástrofes morais é esse: se toda época teve um ponto cego grave, o prudente não é supor que somos a exceção, e sim procurar o nosso.
Explicando para uma criança
Antigamente, muita gente achava normal coisas que hoje a gente sabe que eram muito erradas, como não deixar algumas pessoas estudar. Eles não eram burros: só não viam. É quase certo que a gente também não vê alguma coisa errada que faz hoje. Por isso vale perguntar “será que isso é certo mesmo?”, principalmente sobre o que todo mundo faz.
Ao fim desta lição, você vai conseguir
- Distinguir catástrofes reconhecidas (guerras, genocídios) de catástrofes em curso e não vistas.
- Reconstruir o argumento de Williams: toda sociedade cometeu um mal grave achando normal.
- Avaliar os candidatos de hoje e a proposta de Baumann sobre catástrofes futuras.
Ajuda ter lido: Progresso moral: existe, e como saber?, Especismo e a igual consideração de interesses.
Antes de ler: o que você faria?
Um cidadão romano culto e bondoso tinha escravos e não via problema. Um senhor de engenho devoto também.
O que impedia pessoas boas de ver? Você tem razões para achar que o nosso tempo é a exceção?
Ver o que a lição responde
Normalidade, interesse, distância e a linguagem que esconde. Williams conclui que é quase certo que estamos cometendo algo assim. A lição lista os candidatos e o que fazer com a dúvida.
Dois tipos de catástrofe
Guerras, genocídios, fomes provocadas, limpezas étnicas: são catástrofes morais, e todos as reconhecem como tal. Esta lição não é sobre elas, por uma razão simples: o problema das catástrofes reconhecidas não é descobri-las, e sim impedi-las, e isso é assunto de outras lições, da prevenção de riscos à política. O problema desta lição é outro: o mal que uma sociedade pratica sem o reconhecer como mal, e que por isso ninguém tenta impedir.
| Catástrofes reconhecidas | Catástrofes não reconhecidas | |
|---|---|---|
| Exemplos | Guerras de agressão, genocídios, tortura em massa, fomes provocadas | A escravidão para quem a praticava; os candidatos de hoje, discutidos abaixo |
| Como aparecem | Como tragédia, crime ou emergência | Como normalidade, costume, economia |
| Quem as condena | Quase todos, ao menos em abstrato | Uma minoria, vista como exagerada ou fanática |
| O problema | Impedir, punir, reparar | Antes de tudo, enxergar |
A fronteira entre os dois tipos é menos nítida do que parece. A guerra é condenada em abstrato, mas cada guerra concreta é defendida por um dos lados como necessária, justa ou inevitável, e por isso continua acontecendo. Dentro de catástrofes reconhecidas há partes não reconhecidas: os civis do outro lado, os prisioneiros, os animais, o custo deixado às gerações seguintes. E muito do que hoje chamamos de catástrofe reconhecida começou como não reconhecida: o tráfico de pessoas foi comércio respeitável antes de ser crime. O argumento de Williams é sobre essa passagem, e sobre o que ainda não a fez.
O argumento
Williams, em um artigo de 2015, dá duas razões para achar provável que a nossa sociedade esteja cometendo um erro moral grave sem perceber:
- Indução: até onde a história alcança, toda sociedade cometeu ao menos uma injustiça enorme que seus membros não viam como injustiça. Supor que a nossa é a primeira a não cometer nenhuma exige uma razão especial, e não temos nenhuma.
- Disjunção: há muitas formas independentes de estar errado. Podemos estar errados sobre quem conta (animais, gerações futuras, mentes artificiais), sobre o que devemos a quem está longe, sobre punição, sobre o que fazemos com quem está no fim da vida, sobre riscos que impomos ao futuro. Mesmo que cada erro seja improvável, a chance de ao menos um deles ser real é alta.
A conclusão não é que sabemos qual é o erro. É que devemos agir como quem provavelmente está cometendo um, sem saber qual.
Por que não o vemos
O mal do passado não parecia mal a quem o praticava. Os mecanismos são os mesmos de sempre:
| Mecanismo | Então | Hoje, possivelmente |
|---|---|---|
| Interesse | A escravidão sustentava a economia | Práticas baratas e confortáveis, que ninguém quer encarecer |
| Normalidade | “Sempre foi assim” | O que está no prato, no mercado, na lei |
| Invisibilidade | As vítimas estavam longe ou caladas | Quem sofre não vota, não fala, ou ainda não nasceu |
| Justificativas prontas | “Eles não sentem como nós” | As mesmas frases, aplicadas a outros grupos |
| Dissonância | Quem participava precisava acreditar que estava certo | Idem. Veja vieses morais |
Um teste útil: as justificativas que usamos hoje para alguma prática são parecidas com as que o passado usou para as suas? Se são, o alarme deveria soar.
Os candidatos mais citados
Ninguém sabe qual é a catástrofe, mas alguns candidatos aparecem com frequência, porque reúnem escala, invisibilidade das vítimas e justificativas conhecidas:
- A criação industrial de animais: dezenas de bilhões de seres sencientes por ano em condições que, descritas sem a palavra “comida”, chamaríamos de tortura. Veja ética animal na prática.
- A pobreza extrema evitável: milhões de mortes por ano por causas que custam pouco a prevenir, enquanto recursos abundam. Veja pobreza e ética global.
- O sofrimento dos animais selvagens: em escala maior que tudo o mais, e quase ignorado. Veja animais selvagens.
- As gerações futuras: riscos irreversíveis impostos a quem não tem voz. Veja riscos X e S.
- O encarceramento em massa e as condições das prisões: sofrimento intenso, imposto pelo Estado, a pessoas sem poder.
- Mentes artificiais: se vierem a sentir, podemos estar criando sofrimento sem perceber. Veja mentes artificiais.
A lista não é um veredito. É o conjunto de lugares onde a estrutura de uma catástrofe do passado se repete, e por isso merece exame antes dos outros.
A objeção: “isso é só a sua pauta”
Um crítico pode dizer que a lista revela as opiniões de quem a escreve, e que outros fariam listas diferentes: o aborto, a eutanásia, a destruição da família, a perda da fé. É verdade que o argumento de Williams não diz qual é o erro, e cada pessoa tende a ver a catástrofe nos outros. Isso não desarma o argumento; mostra como aplicá-lo com honestidade: pergunte onde você tem interesse, conforto e justificativas prontas, e não só onde o outro lado tem. A catástrofe que você não vê, por definição, não está na sua pauta.
O que fazer com a dúvida
Se é provável que estejamos errados em algo grave, sem saber em quê, Williams e outros propõem uma resposta em três partes:
- Investigar: dedicar esforço real a descobrir onde estamos errados, em vez de defender o que já fazemos. A ética não é um luxo: é a pesquisa sobre o erro que pode estar nos custando mais caro.
- Preservar a capacidade de corrigir: instituições abertas, liberdade de crítica, pluralismo e o hábito de mudar de ideia. Uma sociedade que não pode ser corrigida mantém suas catástrofes para sempre.
- Evitar o irreversível e cobrir-se: diante da dúvida, preferir ações que seriam aceitáveis em muitas visões morais e evitar as que seriam catastróficas em alguma. Veja incerteza moral.
Tobias Baumann: a catástrofe que ainda não aconteceu
Williams olha para o presente: o mal que praticamos sem ver. Tobias Baumann, cofundador do Center for Reducing Suffering, olha para o futuro. Em Avoiding the Worst: How to Prevent a Moral Catastrophe (2022), ele chama de catástrofe moral um futuro com sofrimento em escala muito maior do que toda a história até aqui, os riscos S discutidos em riscos X e riscos S, e argumenta que evitar esses piores cenários deveria ser uma prioridade.
Três ideias do livro completam o argumento de Williams:
- As catástrofes não precisam de vilões. Baumann distingue riscos incidentais, em que o sofrimento é subproduto de uma atividade que ninguém faz para causar dor, de riscos agenciais, em que alguém o causa de propósito, por conflito, vingança ou sadismo. A criação industrial de animais é o modelo do primeiro tipo: ninguém a criou para fazer sofrer, e ela é provavelmente a maior fonte de sofrimento causado por humanos. Tecnologias novas, como mentes artificiais criadas em massa, podem repetir o padrão em escala muito maior, sem que ninguém decida isso.
- Os fatores de risco são conhecidos. Tecnologia poderosa sem controle, falta de consideração moral por quem sente, e conflito ou concentração de poder. Juntos, eles produziram as catástrofes do passado e podem produzir as do futuro. Isso dá um mapa: reduzir a chance de uma catástrofe é agir sobre esses fatores antes que ela comece.
- O que fazer é, em boa parte, o mesmo que esta lição propõe. Baumann defende a defesa moral (ampliar o círculo de quem conta, para que o sofrimento futuro não seja invisível como o de hoje), política melhor (instituições cooperativas e capazes de corrigir erros, menos conflito) e cautela com tecnologias emergentes, sobretudo a inteligência artificial. Ele também dedica um capítulo aos vieses que nos fazem subestimar o pior: insensibilidade à escala, desconto do futuro, otimismo. Veja vieses morais.
A ligação entre os dois autores é direta. As catástrofes que Williams descreve, as que não vemos, são as que, segundo Baumann, podem crescer até escalas inéditas se nada mudar. Enxergar a de hoje é a melhor proteção contra a de amanhã.
Como o passado foi corrigido
As catástrofes anteriores não acabaram porque a época “amadureceu”. Acabaram porque alguém disse que o normal estava errado, em geral com custo pessoal, e porque havia instituições e argumentos capazes de ouvir. Abolicionistas, sufragistas e defensores de direitos civis foram chamados de fanáticos pela maioria razoável do seu tempo. Isso é um aviso em duas direções: quem denuncia uma catástrofe hoje pode ter razão, e também pode estar errado, e só o argumento separa os casos. Veja progresso moral.
Uma atitude, não uma culpa
O argumento não serve para paralisar ninguém com culpa, nem para se sentir superior ao passado. Serve para uma atitude: a de quem sabe que provavelmente está errado em algo importante, procura descobrir em quê, e muda quando encontra. É a diferença entre quem viveu uma catástrofe e a defendeu, e quem viveu a mesma e ajudou a acabar com ela. Os dois achavam que estavam certos. Só um estava disposto a verificar.
Para guardar
- Catástrofes reconhecidas são as que já não conseguimos negar; as em curso são as que ainda negamos.
- Williams: toda sociedade cometeu um mal grave achando normal; seria estranho que a nossa fosse a exceção.
- Baumann: as piores catástrofes podem ser futuras, em escala astronômica; reduzir a chance delas é prioridade.
Para pensar
Se o nosso tempo tem uma catástrofe moral em curso, qual é a sua melhor aposta? O que faz você hesitar em agir sobre ela: dúvida, custo ou normalidade?
Teste rápido · 1 de 3
Aplique · 2 de 3
Confira · 3 de 3