IPN/LIS/2025/CON41
-
Referência
IPN/LIS/2025/CON41 -
Unidade
Laboratório de Informática e Sistemas -
Área Científica
Engenharia Electrotécnica e Informática -
Local de Realização
Instituto Pedro Nunes -
Documentos
Modelo de contrato de bolsa
Modelo de relatório final
-
Apoio
-
Orientador
Marília Curado -
Instituição do orientador
Departamento de Engenharia Informática da FCTUC -
Categoria do orientador
Professor catedrático -
Objetivos
No âmbito do projeto COP-PILOT, será desenvolvida uma solução que permita agilizar tarefas de gestão e orquestração de redes, incorporando LLMs como método de realização do paradigma de gestão por intenção. Nesse âmbito, é crucial minimizar riscos associados a este tipo de componentes, tais como alucinação que resulte em ações danosas ou destrutivas (ex. remoção de dados do sistema em produção) ou ataques de injeção por prompt tendo em vista objetivos como para manipulação do sistema, exfiltração de dados confidenciais ou a realização de operações não autorizadas.
O objetivo central é investigar e incorporar medidas de segurança em funcionalidades de interpretação e invocação autónoma de APIs de orquestração de referência (ex. TMForum), considerando abordagens da literatura e indústria (OWASP) tais como guardrails, instruções alinhadas às políticas ou integração com mecanismos de Role Based Access Control (RBAC).
O presente concurso de bolsa enquadra-se no projeto europeu COP-PILOT.
-
Tema do plano de trabalhos
Segurança para soluções de gestão intent-based de redes multi-dominio suportada por LLMs -
Plano de trabalhos
As tarefas a desempenhar no contexto desta bolsa incluem:
- investigação e compreensão de inovações recentes na área de processamento de linguagem natural (PLN), LLMs e agentes AI
- investigação de metodologias de análise e modelação de riscos de sistemas que integrem LLMs, e abordagens para a sua mitigação;
- análise e definição de mecanismos para interpretação e processamento seguro de intenções relativas a operações de gestão ou orquestração de rede;
- análise e definição de mecanismos para geração segura de comandos que possibilitem a invocação correta de APIs, tendo em conta permissões do utilizador
- estudo e aplicação de controlos adequados de segurança relevantes no contexto de operação dos LLMs, combinando métodos estocásticos e determinísticos, e a sua integração com abordagens de segurança tradicional.
- versionamento e documentação do código a desenvolver
- documentação técnica dos desenvolvimentos
-
Tipo de bolsa
BI - Bolsa de Investigação -
Montante
1700.00 € -
Renovável
Sim -
Método de pagamento
Mensal -
Duração
12 meses -
Número de bolsas
1 -
Destinatários
Mestres na área de Engenharia Informática ou equivalente, inscritos em doutoramento ou em cursos não conferentes de grau académico integrados no projeto educativo de uma instituição de ensino superior -
Documentação a entregar
a) Cópia de documento de identificação válido (Cartão de Cidadão ou Passaporte);
b) Curriculum Vitae do candidato;
c) Certificados de habilitações de todos os graus académicos obtidos, com média final e com as classificações em todas as disciplinas realizadas;
d) Comprovativo de inscrição num ciclo de estudos conducente a grau académico ou comprovativo de inscrição em cursos não conferentes de grau académico integrados no projeto educativo de uma instituição de ensino superior. -
Data de anúncio
2025-12-03 -
Data de início para entrega de candidaturas
2025-12-18 -
Data limite para entrega de candidaturas
2026-01-02
