No início de abril de 2023, o Conselho Municipal de Nova York publicou a regulação final para a NYC144, uma lei local para alterar seu código administrativo em assuntos de ferramentas automatizadas de decisão de emprego (AEDT). Sendo a primeira do tipo nos EUA com regulação finalizada, a lei promulgada em setembro de 2021 será aplicada a partir de 5 de julho de 2023.

Essa lei se aplica a empregados e empregadores em NYC, com certeza, porém, por ser a primeira do tipo nos EUA chama atenção para o tipo de processos que uma legislação como essa cobre.

Na definição da lei, um processo de contratação que se enquadraria na regulação teria que aplicar uma “ferramenta automatizada de decisão de emprego”, considerada como um processo computacional que aplica machine learning e outras tecnologias do espectro de IA com o objetivo de pontuar, classificar e recomendar, superando humanos no processo de tomada de decisão.

Além disso, não apenas as categorias de processos regulados ficam visíveis, a legislação local de NYC também aponta para as categorias de preocupação que se pode observar no processo de implantação de tais tecnologias: centrado no humano, IA justa, transparência e explicabilidade. Estabelecendo três formas complementares de garantir isso:

Auditoria de viés por auditor independente; Notificação para empregados sobre o uso dessa tecnologia. Estabelece penalidades e multas por não conformidade.

Além de seus objetivos principais, a lei também sustenta a necessidade de transparência sobre os resultados da auditoria de viés, coleta de dados e qualificações e características do trabalho usadas como critério pela ferramenta de decisão de emprego. As multas chegam a US$ 500 para a primeira violação e US$ 1.500 para violações subsequentes.

Alguns críticos dizem que a lei é frágil por causa de sua definição estreita de processo no qual a IA supera decisões humanas. Ainda assim, é a primeira vez que temos uma lei para regular esse tipo de aplicação de IA e ela está mostrando à sociedade contemporânea que a conexão entre tecnologias recentes como IA e nossas vidas diárias está mais entrelaçada do que nunca. Leis locais para regular IA serão uma tendência comum no futuro próximo?