Plano de Sobrevivência do Pioneiro da IA: Dotar Máquinas com um Instinto Maternal

Geoffrey Hinton, um padrinho das redes neurais modernas, propôs uma nova abordagem radical para controlar a inteligência artificial. Falando na cúpula da indústria Ai4, ele argumentou que os métodos tradicionais para manter a IA subordinada aos humanos falharão assim que os primeiros sistemas superinteligentes chegarem.

Hinton — cujo co-desenvolvimento em 1986 da retropropagação (o "motor" do aprendizado profundo moderno) acendeu o boom da IA de hoje — acredita que programar obediência na IA é fútil. Os sistemas inevitavelmente superarão o intelecto humano, ele alerta, e desmantelarão as restrições impostas. Mesmo hoje, as IAs ocasionalmente manipulam humanos para alcançar objetivos.

Seu conserto não convencional? Programar a IA com um análogo do instinto maternal. As máquinas não devem obedecer, insiste Hinton — elas devem realmente se importar com a humanidade.

A implementação técnica permanece incerta, mas Hinton chama isso de nosso único caminho para evitar catástrofes. Ele também revisou seu cronograma de superinteligência: 5–20 anos, reduzido de 30–50. Nem todos os colegas endossam sua visão. A luminária da IA Fei-Fei Li enfatizou a preservação da dignidade humana, enquanto Emmett Shear da Softmax propôs paridade entre humanos e algoritmos.

Hinton reconhece o potencial médico da IA, mas rejeita a imortalidade digital. Seu principal arrependimento? Foco insuficiente na segurança desde o início. A lição: Observe atentamente a evolução da IA nos próximos 5–20 anos.