IPN/LIS/2025/CON38
-
Reference
IPN/LIS/2025/CON38 -
Unit
Laboratório de Informática e Sistemas -
Scientific Area
Engenharia Electrotécnica e Informática -
Place of Performance
Instituto Pedro Nunes -
Documents
Modelo de contrato de bolsa
Modelo de relatório final
-
Support
-
Advisor
Marília Curado -
Advisor Institution
Departamento de Engenharia Informática da FCTUC -
Advisor category
Professor catedrático -
Goals
No âmbito do projeto COP-PILOT, será desenvolvida uma solução que permita agilizar tarefas de gestão e orquestração de redes, incorporando LLMs como método de realização do paradigma de gestão por intenção. Nesse âmbito, é crucial minimizar riscos associados a este tipo de componentes, tais como alucinação que resulte em ações danosas ou destrutivas (ex. remoção de dados do sistema em produção) ou ataques de injeção por prompt tendo em vista objetivos como para manipulação do sistema, exfiltração de dados confidenciais ou outros.
O objetivo central é investigar e incorporar uma camada de segurança sob funcionalidades pré-existentes de interpretação e invocação autónoma de APIs de orquestração de referência (ex. TMForum), considerando abordagens da literatura e indústria (OWASP) tais como guardrails, instruções alinhadas às políticas ou integração com mecanismos de Role Based Access Control (RBAC).
O presente concurso de bolsa enquadra-se no projeto COP-PILOT.
-
Work Plan Area
Integração segura de LLMs para gestão intent-based de redes multi-dominio -
Work Plan
As tarefas a desempenhar no contexto desta bolsa incluem:
- investigação e compreensão de inovações recentes na área de processamento de linguagem natural (PLN), LLMs e agentes AI e abordagens para a sua integração segura;
- análise e definição de mecanismos para interpretação e processamento seguro de intenções relativas a operações de gestão ou orquestração de rede;
- análise e definição de mecanismos para geração segura de comandos que possibilitem a invocação correta de APIs, tendo em conta permissões do utilizador
- estudo e aplicação de guardrails relevantes no contexto de operação dos LLMs
- desenvolvimento de funcionalidades para a geração de testes de vulnerabilidades seguros a partir de relatórios
- desenvolvimento de funcionalidades para a integração e utilização segura de informação obtida por RAG ou abordagens análogas
- versionamento e documentação do código a desenvolver
- documentação técnica dos desenvolvimentos
-
Type of Internship
BI - Bolsa de Investigação -
Amount
1040.98 € -
Renewable
Sim -
Payment method
Monthly -
Duration
9 meses -
Number of Internships
1 -
Recipients
Estudantes de mestrado, mestrado integrado, ou de outros cursos não conferentes de grau, que já tenham realizado os 180 créditos correspondentes aos primeiros 6 semestres curriculares de trabalho, na área de Engenharia Informática, Engenharia Física, Engenharia Electrotécnica e de Computadores, Física, ou áreas afins. -
Documentation to deliver
a) Cópia de documento de identificação válido (Cartão de Cidadão ou Passaporte);
b) Curriculum Vitae do candidato;
c) Certificados de habilitações de todos os graus académicos obtidos, com média final e com as classificações em todas as disciplinas realizadas;
d) Comprovativo de inscrição num ciclo de estudos conducente a grau académico ou comprovativo de inscrição em cursos não conferentes de grau académico integrados no projeto educativo de uma instituição de ensino superior. -
Announcement date
2025-11-06 -
Start date for applications
2025-11-21 -
Deadline for applications
2025-12-05
