Questão de Segurança da Informação — Algoritmos de Criptografia — INSTITUTO AOCP 2024

RSA: quando a criptografia falha

Gabarito: letra D. O problema descrito — um pequeno número de codificações repetidas retornando o texto claro original — é um sintoma clássico de implementação incorreta do algoritmo RSA, e não uma característica do texto claro ou do algoritmo em si. O RSA, quando corretamente implementado, é um algoritmo de criptografia assimétrica que usa um par de chaves (pública e privada) matematicamente relacionadas, e a segurança reside na dificuldade de fatorar números primos grandes. Uma implementação defeituosa pode introduzir vulnerabilidades que permitem que algumas mensagens sejam recuperadas sem a chave privada, ou que o processo de cifragem/decifragem não funcione como esperado.

O RSA é um dos algoritmos de criptografia assimétrica mais utilizados, e seu funcionamento correto depende de uma série de parâmetros e etapas precisas. A segurança do RSA baseia-se na dificuldade de fatorar o produto de dois números primos grandes. Na prática, o algoritmo envolve a geração de um par de chaves (pública e privada), a cifragem da mensagem com uma das chaves e a decifragem com a outra. Se qualquer etapa desse processo for implementada de forma incorreta — por exemplo, com uma escolha inadequada dos números primos, um cálculo errado do expoente, ou um problema no preenchimento (padding) da mensagem — o algoritmo pode se tornar vulnerável e, em alguns casos, produzir resultados inesperados, como a recuperação do texto claro a partir de um texto cifrado sem a chave correta.

A questão descreve um cenário em que "um pequeno número de codificações repetidas retornava o texto claro original". Isso sugere que, para certas mensagens, o processo de criptografia e descriptografia não está funcionando como deveria, permitindo que o texto original seja recuperado de forma indevida. Essa é uma falha grave de segurança, que não pode ser atribuída a características do texto claro (como padrões repetitivos ou tamanho), nem a erros de codificação do texto em si. A causa mais provável é uma falha na implementação do algoritmo RSA, que pode ter sido feita de forma incorreta, introduzindo vulnerabilidades.

Para entender melhor, é importante distinguir o que o RSA faz e o que ele não faz. O RSA é um algoritmo de criptografia assimétrica, o que significa que usa duas chaves diferentes: uma pública, que pode ser distribuída abertamente, e uma privada, que deve ser mantida em segredo. Quando uma mensagem é criptografada com a chave pública, ela só pode ser descriptografada com a chave privada correspondente, e vice-versa. Essa propriedade é fundamental para garantir a confidencialidade e a autenticidade das comunicações. Uma implementação correta do RSA deve garantir que, para qualquer mensagem, o processo de cifragem e decifragem seja inverso e que a segurança seja mantida. Se a implementação for defeituosa, essas propriedades podem ser comprometidas.

A pegadinha desta questão está em atribuir o problema a características do texto claro ou a erros de codificação, quando, na verdade, o problema está na implementação do algoritmo. O candidato pode ser tentado a escolher a alternativa A (padrão repetitivo) ou C (texto muito pequeno), mas essas opções não explicam a falha descrita. O texto claro, por mais repetitivo ou pequeno que seja, não deveria causar esse tipo de problema em uma implementação correta do RSA. Da mesma forma, um erro de codificação (alternativa B) ou um erro no texto claro (alternativa E) não são causas prováveis para o comportamento descrito. A alternativa D é a única que aponta para a causa raiz do problema: uma implementação incorreta do algoritmo.

Alternativa A — ❌ Incorreta

Um padrão repetitivo no texto claro não é uma causa provável para o problema descrito. O RSA, quando corretamente implementado, deve ser seguro independentemente do conteúdo da mensagem. Um padrão repetitivo pode, em alguns casos, ser explorado em ataques a implementações específicas, mas não é a causa direta do comportamento descrito. A falha de segurança está na implementação, não no texto.

Alternativa B — ❌ Incorreta

Um erro de codificação do texto claro poderia causar problemas na descriptografia, mas não explicaria por que "um pequeno número de codificações repetidas retornava o texto claro original". Esse comportamento é mais consistente com uma falha no algoritmo de criptografia do que com um erro na codificação do texto em si.

Alternativa C — ❌ Incorreta

O tamanho do texto claro não é uma causa provável para o problema. O RSA pode criptografar mensagens de qualquer tamanho (dentro dos limites do comprimento da chave), e uma implementação correta deve lidar com mensagens pequenas e grandes de forma segura. Um texto muito pequeno não deveria causar a recuperação indevida do texto claro.

Alternativa D — ✅ Correta ⟵ GABARITO

A causa mais provável do problema é uma implementação incorreta do algoritmo RSA. Uma implementação defeituosa pode introduzir vulnerabilidades que permitem que algumas mensagens sejam recuperadas sem a chave privada, ou que o processo de cifragem/decifragem não funcione como esperado. Isso explica por que "um pequeno número de codificações repetidas retornava o texto claro original". A falha está no algoritmo, não no texto.

Alternativa E — ❌ Incorreta

Um erro no texto claro original não é uma causa provável para o problema. O texto claro, por definição, é a mensagem que se deseja proteger. Um erro no texto claro poderia causar problemas na descriptografia, mas não explicaria a recuperação indevida do texto a partir do texto cifrado.

Gabarito: letra D