A proposta prevê a criação de um algoritmo de análise, desenvolvido pelas próprias empresas responsáveis pelas aplicações. Esse sistema teria como função inspecionar todo o conteúdo partilhado, desde mensagens a fotografias e vídeos, sem exceção para materiais encriptados. A informação seria transformada em códigos no dispositivo do utilizador e, em seguida, confrontada com códigos provenientes de um servidor centralizado (Análise CSS), de modo a avaliar se cumpre ou não a legislação em vigor.
Se o sistema, com recurso a inteligência artificial e reconhecimento de padrões, classificar determinado conteúdo como ilegal, por exemplo material de abuso sexual infantil ou suspeita de actividades terroristas, seria automaticamente gerado um relatório e enviado para um novo organismo europeu. Este encaminharia depois a informação para as autoridades judiciais competentes, a fim de dar início à investigação. Todo o processo ocorreria de forma totalmente automatizada, sem qualquer intervenção humana prévia.
Para os defensores da privacidade, as implicações mais amplas do Chat Control são preocupantes. Afinal, a obrigatoriedade do scan de mensagens, mesmo as encriptadas, ameaça a proteção da privacidade dos utilizadores.
Além disso, há quem tema que a aprovação deste projecto de lei, em Outubro deste ano, abra um precedente perigoso. A proposta levanta preocupações sobre privacidade e liberdade de expressão, pois trata todos os cidadãos como suspeitos, enfraquece a presunção de inocência e abre caminho para práticas de vigilância em massa semelhantes às de regimes criticados no passado.