본문 바로가기

분류 전체보기

 (42)
[세미나] 의료 인공지능의 발전과정: 연구 사례 중심으로 9월 20일부터 22일까지 프로그램에 참가하게 되었다. 금요일(9.20)에는 딥노이드, 그리고 토요일과 일요일(9.21~9.22)에는 분당서울대병원 견학을 가게 되는데 그전에 미리 사전강의를 수강하라고 안내가 와서 해당 강의 중 정말 도움이 되었던 세미나 내용을 블로그에 정리해보고자 한다. 강의 제목: 의료 인공지능의 발전과정: 연구 사례 중심으로 연자: 이동헌, 충남대학교 의과대학 의공학과 조교수 Progess of AIAI가 발전한 이유? 1. 3박자: Big data + GPU + Algorithm 2. '공개' 문화: arvix.org / GitHub / kaggle AI Application 1. Image 1) Discriminative: classification, object detecti..
[에세이] Fear always springs from ignorance 작년 9월, 코엑스에서 열린 대한영상의학회 정기학술대회에 동기들과 함께 참가했었습니다. 그곳에서는 인공지능(AI)을 영상의학에 접목하는 연구들이 활발히 발표되고 있었습니다. 미국 시인 랠프 월도 에머슨이 “두려움은 무지에서 나온다(Fear always springs from ignorance)"라고 말한 것처럼, AI에 대해 잘 알지 못했던 저는 그 순간 두려움을 느꼈습니다. 만약 AI가 의사를 비롯한 여러 직업을 대체한다면 어떻게 될까? 그때 저는 의학과 더불어 AI도 공부해야겠다고 결심했습니다. 두려움을 극복하기 위해서는 그 대상을 본질적으로 이해해야 한다고 생각했기 때문입니다. AI를 본격적으로 공부하기 전에 먼저 머신러닝과 딥러닝이라는 용어부터 명확히 정의할 필요가 있었습니다. AI는 인간의 지능..
[AI 논문] CLIP: Learning Transferable Visual Models From Natural Language Supervision (2021) 당시 NLP에서는 raw data로부터 pre-training을 직접 시켜서 zero-shot transfer가 가능하였다. 여기서 zero-shot trasnfer이란 사전 학습 중에 본 적이 없는 새로운 작업이나 데이터에 대해 추가 학습 없이도 바로 성능을 발휘할 수 있는 능력을 말한다.  근데 당시 CV에서는 사람이 직접 labeling한 ImageNet과 같은 데이터셋을 사용해 pre-training하는 것이 표준이었다. 만약 사람이 직접 labeling하지 않고 web에서 image를 설명하는 raw text data를 활용한다면, labeling 노동을 줄일 수 있을 뿐만 아니라, fine-tuning이 필요 없는 zero-shot trasnfer도 가능하지 않을까? 이것이 CLIP 모델이 탄..
[AI 논문] AN IMAGE IS WORTH 16X16 WORDS:TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE Transformer는 본래 NLP 쪽에서 주로 활용되었다면, 이를 이미지에도 적용시키고자 나온 개념이 바로 ViT(Vision Transformer)이다. 오늘은 ViT를 다루는 논문, 'AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE'에 대해 공부해보겠다. 출처- Dosovitskiy, A., Beyer, L., Kolesnikov, A., Weissenborn, D., Zhai, X., Unterthiner, T., Dehghani, M., Minderer, M., Heigold, G., Gelly, S., Uszkoreit, J., & Houlsby, N. (2021). An image is worth 16x16..
[AI 논문] Attention Is All You Need (2017) 이번 시간에는 레전드 논문 'Attention Is All You Need'를 공부해보겠다.확실히 공부한 걸 블로그로 작성하는 일은 시간은 걸리더라도 long-term memory에 각인되는 것 같다. 공부한 흔적 그 이상의 가치를 가지는 것 같아서 앞으로도 귀찮더라도 꾸준히 포스팅을 해야겠다. 출처- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30, 5998-6008.- Umar Jamil Youtube:..
[병리] 방광암에 대해 알아보자 저번 포스팅에서 언급했던 '방광암 WSI 기반 병리 보고서 생성 모델 개발' 대회 준비를 하면서 AI 논문을 뒤적거리다가, 결국 방광암에 대한 기본 지식이 필요하다고 느껴서 이번 포스팅에 정리해보려고 한다. 출처- Wadhwa, V., Handa, A., & Riaz, I. B. (2019). Pathology, carcinoma in situ. StatPearls [Internet]. https://www.ncbi.nlm.nih.gov/books/NBK540963/ - Ross, M. H., & Pawlina, W. (2020). Histology: A Text and Atlas (8th ed.). Philadelphia, PA: Wolters Kluwer. - World Health Organizat..
[AI 논문] Show and Tell: A Neural Image Caption Generator (2015) 처음엔 그저 재밌어보여서 시작한 AI 공부를 벌써 4개월 째 하고 있다.이젠 책으로 공부만 하는 건 지겹고 실제 프로젝트를 해보고 싶었다.마침 고려대학교 의료빅데이터연구소에서 9~10월 동안 '방광암 WSI 기반 병리 보고서 생성 모델 개발'이라는 주제로 대회를 개최한다는 소식을 듣고 해당 주제에 관심 있는 동기들과 함께 지원하였고, 운이 좋게 선발이 되었다. * 대회 사이트https://k-medicon.com/sub2.html MEDICAL CONTESTUrinary bladder, transurethral resection; Invasive urothelial carcinoma, with 1) squamous differentiation 2) invasion to muscularis propria ..
[에세이] 결국, 사람이 중요하다 https://tobedoctor.net/%ea%b2%b0%ea%b5%ad-%ec%82%ac%eb%9e%8c%ec%9d%b4-%ec%a4%91%ec%9a%94%ed%95%98%eb%8b%a4/ 결국, 사람이 중요하다 - 투비닥터올해 5월, 투비닥터에 들어왔다.tobedoctor.net 올해 5월, 투비닥터에 들어왔다. 우물 안 개구리에서 벗어나고 싶었기 때문이다. 다른 학교 사람들은 이 시간을 어떻게 보내고 있는지도 궁금했다. 제각기 다른 성격, 취미, 가치관, 그리고 꿈을 가진 다양한 사람들이 존재하더라. 그중 멋진 경력을 가지고 있는 사람들과 대화하면 내가 초라하게 느껴졌다. 비교하지 않아야겠다고 다짐해도 어느새 비교하고 있는 나 자신을 발견하였다. 활동 초반의 나의 모습을 떠올려보면, 나 자신의 능..

티스토리툴바