IPN/LIS/2025/CON41
-
Reference
IPN/LIS/2025/CON41 -
Unit
Laboratório de Informática e Sistemas -
Scientific Area
Engenharia Electrotécnica e Informática -
Place of Performance
Instituto Pedro Nunes -
Documents
Modelo de contrato de bolsa
Modelo de relatório final
-
Support
-
Advisor
Marília Curado -
Advisor Institution
Departamento de Engenharia Informática da FCTUC -
Advisor category
Professor catedrático -
Goals
No âmbito do projeto COP-PILOT, será desenvolvida uma solução que permita agilizar tarefas de gestão e orquestração de redes, incorporando LLMs como método de realização do paradigma de gestão por intenção. Nesse âmbito, é crucial minimizar riscos associados a este tipo de componentes, tais como alucinação que resulte em ações danosas ou destrutivas (ex. remoção de dados do sistema em produção) ou ataques de injeção por prompt tendo em vista objetivos como para manipulação do sistema, exfiltração de dados confidenciais ou a realização de operações não autorizadas.
O objetivo central é investigar e incorporar medidas de segurança em funcionalidades de interpretação e invocação autónoma de APIs de orquestração de referência (ex. TMForum), considerando abordagens da literatura e indústria (OWASP) tais como guardrails, instruções alinhadas às políticas ou integração com mecanismos de Role Based Access Control (RBAC).
O presente concurso de bolsa enquadra-se no projeto europeu COP-PILOT.
-
Work Plan Area
Segurança para soluções de gestão intent-based de redes multi-dominio suportada por LLMs -
Work Plan
As tarefas a desempenhar no contexto desta bolsa incluem:
- investigação e compreensão de inovações recentes na área de processamento de linguagem natural (PLN), LLMs e agentes AI
- investigação de metodologias de análise e modelação de riscos de sistemas que integrem LLMs, e abordagens para a sua mitigação;
- análise e definição de mecanismos para interpretação e processamento seguro de intenções relativas a operações de gestão ou orquestração de rede;
- análise e definição de mecanismos para geração segura de comandos que possibilitem a invocação correta de APIs, tendo em conta permissões do utilizador
- estudo e aplicação de controlos adequados de segurança relevantes no contexto de operação dos LLMs, combinando métodos estocásticos e determinísticos, e a sua integração com abordagens de segurança tradicional.
- versionamento e documentação do código a desenvolver
- documentação técnica dos desenvolvimentos
-
Type of Internship
BI - Bolsa de Investigação -
Amount
1700.00 € -
Renewable
Sim -
Payment method
Monthly -
Duration
12 meses -
Number of Internships
1 -
Recipients
Mestres na área de Engenharia Informática ou equivalente, inscritos em doutoramento ou em cursos não conferentes de grau académico integrados no projeto educativo de uma instituição de ensino superior -
Documentation to deliver
a) Cópia de documento de identificação válido (Cartão de Cidadão ou Passaporte);
b) Curriculum Vitae do candidato;
c) Certificados de habilitações de todos os graus académicos obtidos, com média final e com as classificações em todas as disciplinas realizadas;
d) Comprovativo de inscrição num ciclo de estudos conducente a grau académico ou comprovativo de inscrição em cursos não conferentes de grau académico integrados no projeto educativo de uma instituição de ensino superior. -
Announcement date
2025-12-03 -
Start date for applications
2025-12-18 -
Deadline for applications
2026-01-02
