Imagine um futuro em que cada movimento humano seja monitorado, cada pensamento mediado por algoritmos e cada decisão subordinada à lógica da segurança. Diante da promessa de catástrofes tecnológicas e do medo de perder o controle, a humanidade parece caminhar rumo a um dilema inevitável: aceitar a vigilância total em nome da proteção ou frear o progresso e arriscar a própria decadência. Entre a distopia e a estagnação, surge uma pergunta que ecoa não apenas na filosofia, mas também no direito do trabalho: como avançar tecnologicamente sem perder o que nos torna humanos? Este texto convida o leitor a refletir sobre esse impasse — o de um mundo que precisa decidir como evoluir sem se autodestruir.
No presente artigo, busca-se trazer uma reflexão acerca do capítulo 12 – “O Dilema” – do livro A Próxima Onda: Inteligência Artificial, Poder e o Maior Dilema do Século XXI, de Mustafa Suleyman e Michael Bhaskar, traçando-se um paralelo com o direito do trabalho e o futuro da humanidade.
Os autores argumentam a respeito de uma guinada distópica, descrevendo um movimento histórico recorrente: diante do medo e de catástrofes iminentes, as sociedades buscam segurança por meio do controle. No contexto da “próxima onda” tecnológica, essa tendência atinge novos níveis. Eles preveem que, à medida que ameaças como inteligências artificiais descontroladas, pandemias fabricadas e biotecnologias perigosas se tornem mais concretas, haverá uma pressão mundial para que governos ampliem poderes de vigilância e repressão. A ideia é que impedir catástrofes tecnológicas exigirá controlar todos os aspectos da criação e circulação de tecnologia; porém, isso equivale a vigiar tudo e todos — laboratórios, universidades, fábricas, pessoas.
O resultado seria a abertura de uma porta para a distopia: um mundo em que, em nome da segurança, a humanidade aceita a vigilância total e a submissão a um poder centralizado. Os autores sugerem que, em meio à calamidade, tal distopia poderia até parecer um alívio. Contudo, alerta que o preço seria alto — o enfraquecimento dos freios e contrapesos democráticos e o comprometimento da liberdade e da autodeterminação.
Eles evocam referências filosóficas como Thomas Hobbes e Lewis Mumford para mostrar que a relação entre liberdade e segurança é antiga, mas adquire proporções inéditas. Mumford fala sobre a “megamáquina”: o sistema social que se une à tecnologia para criar uma estrutura uniforme e todo-envolvente, que é controlada para benefício de organizações coletivas despersonalizadas. Essa “máquina de controle”, pensada para proteger, termina por oprimir. E os autores questionam se a humanidade, diante desses riscos, deveria “sair do trem” — interromper o desenvolvimento tecnológico — ou se isso seria impossível.
Refletindo sobre isso, pode-se ver paralelos diretos com o direito do trabalho. Assim como o Estado busca controlar a tecnologia em nome da segurança, há um desejo crescente, nas relações de trabalho mediadas por algoritmos, de controle total sobre a conduta do trabalhador. Plataformas digitais já operam como microcosmos dessa “tecnodistopia”, nas quais cada ação é rastreada, cada pausa monitorada e cada desempenho medido. Os autores nos ajudam, portanto, a pensar criticamente no quanto a busca por eficiência e segurança pode custar autonomia e dignidade — princípios fundamentais do trabalho humano e da Constituição brasileira. O dilema entre controle e liberdade, aqui, também é um dilema trabalhista.
Em outra parte do capítulo, mais precisamente no tópico “Estagnação: um tipo diferente de catástrofe”, os autores viram o espelho: se o controle excessivo leva à distopia, o abandono do avanço tecnológico conduziria a outro tipo de tragédia — a estagnação. Eles observam que a civilização moderna, com suas cidades, infraestrutura e consumo, confia na continuidade do desenvolvimento técnico e econômico. Essa confiança é tamanha que esquecemos que civilizações anteriores — como Roma, os maias e a Mesopotâmia — colapsaram justamente por atingirem o limite de suas capacidades energéticas, alimentares e organizacionais.
A estagnação tecnológica, assim, significaria o colapso silencioso das estruturas que sustentam o mundo moderno. A estabilidade que imaginamos é ilusória. Sem inovação, não há crescimento econômico, e sem crescimento, o próprio equilíbrio social entra em colapso. Os autores argumentam que as nossas promessas de bem-estar — ter mais por menos, ampliar direitos sociais, sustentar o sistema previdenciário — dependem de novas tecnologias. Em suma, paralisar o avanço agora seria escolher um caminho de empobrecimento e desordem.
Eles citam o exemplo do declínio demográfico e do envelhecimento populacional. Países como Japão, China e Alemanha já vivem uma queda vertiginosa da força de trabalho ativa. A continuidade dos padrões de vida, portanto, exigirá tecnologias de automação, inteligência artificial e biotecnologia. Sem elas, faltarão trabalhadores, recursos e investimentos. A “moratória tecnológica” que alguns sugerem seria, então, outro tipo de suicídio civilizacional.
Essa reflexão também dialoga com o direito do trabalho. A estagnação tecnológica traria enormes impactos para o emprego e a estrutura das relações laborais. Sem inovação produtiva, a tendência seria uma crise de produtividade e regressão social. No entanto, os autores não idealizam o avanço tecnológico; eles o reconhecem como perigoso, mas fundamental. Nesse ponto, o papel do direito do trabalho poderia ser justamente o de acompanhar essa transição, garantindo que o progresso técnico não destrua a coesão social nem agrave desigualdades. Em um mundo que envelhece e automatiza, caberá ao direito repensar a função do trabalho, os critérios de proteção social e o próprio valor humano dentro de sistemas produtivos cada vez mais algorítmicos.
Os autores nos lembram, enfim, que não fazer nada até pode ser uma escolha do ponto de vista teórico — contudo esta inércia pode ser tão ou mais catastrófica quanto o autoritarismo tecnológico. Há, portanto, um duplo abismo à frente: o da repressão total e o da decadência. O dilema não é “avanço ou pausa”, mas como avançar sem se autodestruir.
No último tópico do capítulo, denominado “Para onde agora?”, os autores concluem com um tom de realismo melancólico. Eles citam John von Neumann, que já em 1955 perguntava se a humanidade sobreviveria à tecnologia. Desde então, as incertezas só cresceram. Os autores reconhecem que, apesar dos perigos, a tecnologia trouxe benefícios incontestáveis — saúde, conforto, conhecimento e interconexão. A questão é se, daqui em diante, ela continuará trazendo resultados líquidos positivos ou se se tornará autodestrutiva.
Vivemos, eles afirmam, o “desafio final do Homo technologicus”: conciliar desenvolvimento e sobrevivência. Não há respostas fáceis, tampouco caminho seguro. O futuro envolverá concessões dolorosas entre prosperidade, vigilância e catástrofe. Mesmo sistemas políticos equilibrados podem não resistir a tais tensões. Há um paradoxo inevitável na relação humana com a tecnologia — ela é simultaneamente o melhor e o pior de nós.
É justamente diante dessa constatação que se torna evidente uma exigência urgente: estudar filosofia e ética nunca foi tão importante quanto agora. Será necessário que cada um de nós aja como um juiz — avaliando as circunstâncias e ponderando as possíveis consequências de cada escolha coletiva e tecnológica. A habilidade mais necessária do século XXI será o pensamento crítico e a capacidade antecipatória, isto é, a competência de pesar na balança as invenções e seus riscos, traçando estratégias para minimizar o mal e maximizar o bem que delas pode advir. Os dilemas éticos que os autores mencionam — aquele contraste entre o melhor e o pior de nós — não são teóricos: eles moldarão decisões sobre o poder das máquinas, a distribuição da riqueza e o destino da vida humana. Por isso, mais do que regras, será preciso pessoas essencialmente boas e conscientes para decidir, equilibrando progresso e moralidade. A crise não é apenas tecnológica, mas espiritual e ética.
Essa conclusão abre espaço para ponderações jurídicas e éticas de grande relevância. O Direito do Trabalho como conhecemos hoje, surgido em meio à Revolução Industrial, nasceu como uma resposta humanizadora aos efeitos sociais da mecanização e do capitalismo, buscando proteger o trabalhador dentro de um sistema produtivo em rápida transformação. Hoje, a humanidade volta a esse dilema fundador: como avançar tecnologicamente sem perder o que nos torna humanos? Assim como outrora foi preciso limitar a jornada e garantir salário-mínimo, talvez agora seja a hora de limitar algoritmos, garantir transparência de decisões automatizadas e preservar o sentido humano do labor.
Os autores não entregam respostas, mas provocam uma consciência de limite. O progresso sem reflexão conduz à distopia; a estagnação, ao colapso; e o desafio para “onde agora” é o de construir uma ética e uma política capazes de equilibrar inovação e humanidade. Aplicando ao trabalho, trata-se de fazer com que a revolução tecnológica — a inteligência artificial, a automação e o controle de dados — não substitua o homem, mas sirva à sua dignidade, ampliando não o poder das máquinas, mas a liberdade dos trabalhadores.
O dilema exposto pelos autores é, em última instância, o mesmo que permeia o próprio direito: encontrar equilíbrio entre liberdade e ordem, entre desenvolvimento e proteção, entre progresso e justiça. É dessa tensão — e da consciência de seus riscos — que pode nascer uma nova etapa civilizatória, para além da distopia e da estagnação.
Por Eduardo Suárez de Puga do Nascimento
Graduado e Laureado em Direito pela PUCRS
Advogado, integrante do Grupo de Pesquisa GTTS da PUCRS, Membro da Comissão da Advocacia Trabalhista da OAB/RS e Membro da Comissão da Jovem Advocacia OAB/RS