Envision Biomed - Ambientes imersivos biomedicina e saúde que caminhos
1. A m b i e n t e s I m e r s i v o s
E s t e n d i d o s
b i o m e d i c i n a e s a ú d e :
q u e c a m i n h o s ?
Fernando Cas s ola
15.04.2024 | UA
2. Ambientes imersivos estendidos (AIE),
biomedicina e saúde: que caminhos?
A MBIEN T ES IMERSIVOS RE A L IDA DE EST ENDIDA
2
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
3. Ambientes imersivos
3
Imersão
Um estado cognitivo em que se está absorto, isto é,
com profundo envolvimento, a ponto da sua atenção se
começar a dissociar das restantes ocorrências do mundo
é
Sistema: sensação
subjetiva de se estar
rodeado.
Absorção pela
narrativa
Absorção pela
agência
emerge de
Tecnologia, Intervenção
humana, e outros
elementos mediadores
afetadas por
Ambientes imersivos
vivenciadas em
Morgado, L. (2022). Ambientes de Aprendizagem Imersivos.
Video Journal of Social and Human Research, 1(2), 102-116.
Sistema
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
5. REALIDADE VIRTUAL
5
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
Utilizadore s c omple me nte
imer sos num ambiente
totalme nte digital, que pode
ou n ão se r re al
6. REALIDADE AUMENTADA
6
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
Utilizadore s pre se nte s e m
situações reais, inserindo
c amadas c om c onte údos
digitais
7. REALIDADE MISTA
7
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
Combina mundo digital
c om o físic o , produzindo
ambientes onde os obj etos
físic os pode m inte ragir
c om c onte údos digitais
12. Mercado mundial dos cuidados de
saúde digitais
12
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
https://www.intellectsoft.net/blog/digital-transformation-in-healthcare/
13. XR Platforms
In Improved patient education, self-care & engagement
13
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
14. XR Platforms
In Augmented surgeries
14
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
15. XR Platforms
In surgical training
15
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
16. XR Platforms
in Classrooms for Interactive Biomedical Education
16
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
17. XR Platforms
in data visualization and interactive 3D analysis
17
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
18. XR Platforms
in Clinical Surgery Guidance
18
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
19. XR Platforms
in Improved first aid
19
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
30. Trabalhos feitos com
recurso a coreografias
30
Lopes et al. (2009) Use of a virtual world system in sports coach education
for reproducing team handball movements
Pinheiro et al. (2014) Development of a mechanical maintenance training
simulator in OpenSimulator for F-16 aircraft engines. Entertainment Computing
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
31. Online GYM
31
Cassola, L Morgado, F de Carvalho, H Paredes, B Fonseca, P Martins Online-
Gym: a 3D virtual gymnasium using Kinect interaction Procedia Technology
13, 130-138
Coreografias virtuais: identificar comportamentos
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
32. 32
Coreografias virtuais: identificar e direcionar comportamentos com determinado objetivo
Cassola et al. (2017). Using choreographies to support the gamification process on the development of an
application to reduce electricity costs. Lecture Notes in Computer Science
plataforma
gamificada para
promover a
eficiência
energética em
escritórios
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
33. Demetrius
Ambientes imersivos
Ambientes Imersivos de treino: perspetivas coreografadas 33
Lacet el al. 2020. Preserving story choreographies across multiple platforms: An approach to platform-
independent reuse of characters' behaviors for games, simulations, animations and interactive videos. In
Proceedings of the 9th International Conference on Digital and Interactive Arts (ARTECH 2019).
Coreografias virtuais: representar comportamentos
34. FEEDBACK
34
Coreografias virtuais: direcionar comportamentos com determinado objetivo
Soares, F.; Madureira, A.; Pagès, A.; Barbosa, A.; Coelho, A.; Cassola, et al. FEEdBACk: An ICT-Based
Platform to Increase Energy Efficiency through Buildings’ Consumer Engagement. Energies 2021
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
35. Ambientes Imersivos de treino: perspetivas coreografadas 35
Cassola et al. (2022). Design and Evaluation of a Choreography-Based Virtual Reality Authoring Tool for
Experiential Learning in Industrial Training. In IEEE Transactions on Learning Technologies, 2022
Cassola et al. (2021). A Novel Tool for Immersive Authoring of Experiential Learning in Virtual Reality. In
2021 IEEE Conference on Virtual Reality and 3D User Interfaces Abstracts and Workshops (VRW) (pp. 44-49).
Coreografias virtuais: identificar e avaliar comportamentos
38. Coreografias virtuais:
Que resposta dão?
Formação Digital Twins
• Treino
• Certificação
• Acompanhamento de
eventos relevantes
• …
• Representar
acontecimentos
• Simular cenários
• Apoio à decisão
• …
38
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
39. PROBLEMA
Conseguimos compreender o que está a
acontecer ou aconteceu, seja para
avaliação, apreciação e feedback
Mas se tivermos que lidar com dezenas ou mesmo
centenas de formandos? não é o mesmo que lidar
com “meia dúzia”…
39
Coreografias virtuais
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
40. 40
Baptista et al. (2015). Relation between game genres and competences for in-game
certification. International Conference on Serious Games, Interaction, and SimulationVR and AR
in medical education
Coreografias virtuais: podem ajudar a agrupar comportamentos e a identificá-los
Acompanhamento da atividade: os formadores obtêm análises e feedback para decidirem como agir
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
41. 41
Dias, T. (2023), How to Integrate Immersive Environments and Games into Business
Training Systems Using the Inven!RA Architecture. Dissertação de Mestrado. INESC TEC
Costa, D. (2023). Representation of virtual choreographies in learning dashboards of
interoperable LMS analytics. Dissertação de Mestrado. INESC TEC
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
42. Inde pe nde nte me nte :
• Atividade
• Dimensão
• Plataforma
• Formato
• Acompanhar multiplas
atividades e formandos
• Identificar comportamentos
relevantes
• Avaliar
• Certificar
42
Morgado et al. (2023) Inven!RA Architecture for Sustainable Deployment
of Immersive Learning Environments. In Sustainability, 2023
Inve n!RA +
Core ografias Vir tuais :
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
43. Fontes
Image ns
• S l i d e 2 :
• Imagem 1: gerado por Copilot em 13/12/2023
• Imagem 2: gerado por Copilot em 10/04/2024
• S l i d e 4
• imagem 1: https://design4real.de/wp-content/uploads/2023/11/VR-in-der-
Medizin.png
• S l i d e 5 :
• imagem 1: https://zealar.com.au/wp-content/uploads/2019/10/AR-for-
Healthcare-Industry-2.jpg
• S l i d e 6 :
• imagem 1: https://img.reality.news/img/32/36/63651345930857/0/hololens-
can-now-simulate-childbirth-train-medical-students.1280x600.jpg
• S l o i d e 7 :
• imagem 1: https://elbd.sites.uu.nl/wp-
content/uploads/sites/108/2022/09/extended_reality.png
• S l i d e 8 :
• imagem 1: https://staticg.sportskeeda.com/editor/2022/07/897f0-
16582378566644-1920.jpg
• iumage 2: https://assets.thehansindia.com/h-upload/2020/03/24/956832-ar-
toys.webp
• S l i d e 9 :
• imagem 1: https://www.purdue.edu/uns/images/2020/ramani-
augmentedLO.jpg
• imagem 2: https://images.pexels.com/photos/356079/pexels-photo-
356079.jpeg
43
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
44. Fontes
Image ns
• S l i d e 1 0 :
• imagem 1: https://matriculas.estacio.br/blog/wp-
content/uploads/2019/06/biomedicina-o-que-e-como-comecar-trabalhar-area-
estacio.jpg
• imagem 2: https://images.impresa.pt/sicnot/2023-07-04-Medicos-saude-
3ce52861/original
• S l i d e 2 6 :
• imagem 1: https://i0.wp.com/www.macamilliondollarman.com/wp-
content/uploads/2017/03/Houston-We-Have-Problem-Trailer-
Cover.jpg?fit=1200%2C676&ssl=1
• S l i d e 2 7 :
• imagem 1: gerado por Copilot em 13/12/2023
• S l i d e 2 8 :
• imagem
1:https://www.gamespot.com/a/uploads/original/gamespot/images/2004/reviews/57
7321-914949_20040602_002.jpg
• imagem 2: https://m.media-
amazon.com/images/I/71S5IDFTJrL._AC_UF1000,1000_QL80_.jpg
• S l i d e 3 8 :
• imagem 1: gerado por Copilot em 13/12/2023
44
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
45. Fontes
Bibliografia
• G a o J , Z h a n g X . T h e A p p l i c a t i o n s o f D i g i t a l E x t e n d e d R e a l i t y i n B i o m e d i c i n e . C l i n S u r g . 2 0 2 1 ; 6 : 3 3 4 4
• M y t h r e y e V e n k a t e s a n e t a l . , V i r t u a l a n d a u g m e n t e d r e a l i t y f o r b i o m e d i c a l a p p l i c a t i o n s , C e l l R e p o r t s M e d i c i n e ,
V o l u m e 2 , I s s u e 7 , 2 0 2 1 , 1 0 0 3 4 8 , I S S N 2 6 6 6 - 3 7 9 1 , h t t p s : / / d o i . o r g / 1 0 . 1 0 1 6 / j . x c r m . 2 0 2 1 . 1 0 0 3 4 8 .
• h t t p s : / / r e s e a r c h . a i m u l t i p l e . c o m / a r - i n - h e a l t h c a r e / a c e d i d o e m 1 2 / 0 4 / 2 0 2 4
• h t t p s : / / w w w . i m m e r s i v e l e a r n i n g . n e w s / 2 0 2 4 / 0 3 / 2 7 / t o p - 1 5 - m i x e d - r e a l i t y - c o m p a n i e s - i n - 2 0 2 4 - f r o n t i e r s - o f - i n n o v a t i o n /
a c e d i d o e m 1 2 / 0 4 / 2 0 2 4
• h t t p s : / / w w w . g 2 . c o m / c a t e g o r i e s / a u g m e n t e d - r e a l i t y a c e d i d d o e m 1 2 / 0 4 / 2 0 2 4
45
Ambientes imersivos estendidos, biomedicina e saúde: que caminhos?
A agência é a possibilidade de intervirmos de atuar sobre algo. Ou seja, é quando ficamos absortos em: a tarefa que estamos a fazer, o desafio que estamos a tentar ultrapassar;
o pensamento tático ou estratégico sobre o que podemos fazer (ainda que não estejamos a fazer nada)
[13:16]Exemplo do primeiro caso: estás a escrever um artigo, quando dás por ela, nem viste que tocaram à porta, que se fez noite, etc.
[13:18]Exemplo do segundo caso: estás a ouvir alguém falar, nem estás bem atento ao que é dito (ou seja, não é imersão narrativa) mas focado a pensar "intervenho agora? ou é melhor não intervir?" - isso é imersão pela agência, a nível do pensamento tático
https://research.aimultiple.com/ar-in-healthcare/
Prevê-se um negócio de 430 biliões em 2028
Aumento anual de 30%
95% dos lideres da saúde concordam que a transformação digital é vital
84% dos profissionais de saúde consideram a digitaliação um fator determinante nas suas carreiras
Explicar os sintomas, com a ajuda de estimulos visuais
Acompanhar o processo de tratamento
Melhorar as terapias
Ver informações médicas
visualização cirúrgica passo a passo
Monitorização dos sinais vitais do doente em tempo real
Visualização de esquemas necessários, como dados de TC ou RM, impostos ao corpo de um paciente
Visualização da anatomia específica do paciente
Identificação de encontros cirúrgicos anómalos
Assistência remota de outros profissionais
Ensino
Visualização de dados dos pacientes
-Acesso aos registos de dados dos doentes
-Assistência profissional à distância através de videoconferência AR
-Instruções sobre o procedimento de primeiros socorros
-Assistência ao diagnóstico
-Manter os dados organizados e à mão
Gestão da dor
Ansiedade, incluindo ansiedade social e ansiedade de falar em público
Depressão
Fobias
Perturbações do comportamento alimentar
Luto e perda
Perturbações relacionadas com o consumo de substâncias
Perturbações em que o comportamento compulsivo ou a dinâmica interpessoal são significativamente afectados
Apple Vision Pro
Lenovo Think Reality VRX
magic leap2
Varjo XR Series
Microsoft's HoloLens 2
HTC VIVE
Meta Quest 3
PICO
Apple Vision Pro
Lenovo Think Reality VRX
magic leap2
Varjo XR Series
Microsoft's HoloLens 2
HTC VIVE
Meta Quest 3
PICO
Eu que vinha, a convite do prof. Leonel, no seguimento dos meus trabalhos em mundos virtuais (muito second life, Open Sim, etc…)
E era aí que eu queria continuar a investigar…
É então que o termo “COREOGRAFIAS” me é apresentado como uma das possíveis linhas de investigação.
O jogo Full Spectrum Warrior foi o “trigger” que me fez perceber da necessidade da existência deste conceito
ENGINE Havok
-> O título é uma referência ao programa de treinamento do exército para tornar os soldados mais flexíveis e adaptáveis a uma ampla gama de cenários operacionais. O jogo foi originalmente desenvolvido para servir de apoio no treinamento do exército americano, o qual também desenvolveu Full Spectrum Command destinado ao treinamento dos oficiais de alta patente.
Naturalmente que o Leonel me foi apresentando alguns trabalhos que se estavam a enquadrar nessa linha
Seja no trabalho do Andebol ou no trabalho do desenvolvimento de uma Plataforma para treino na manutenção de mecânicos do motor do F16
Entretanto fomos evoluindo o conceito e outros projetos se foram desenhando, nomeadamente, Online GYM, entre outros
E fomos expandindo o conceito a outros casos de uso …
E fomos expandindo o conceito a outros casos de uso …
E fomos expandindo o conceito a outros casos de uso …
E fomos expandindo o conceito a outros casos de uso …