
BERT (Bidirectional Encoder Representations from Transformers)는 2018년에 Google에서 개발한 언어 모델입니다. 이 모델은 대규모 텍스트 및 코드 데이터 세트로 학습된 트랜스포머(Transformer) 아키텍처를 기반으로 합니다. 트랜스포머는 인코더-디코더 구조를 가진 딥러닝 모델로, 기계 번역에서 뛰어난 성능을 보여준 모델입니다. 인코더는 입력값을 양방향으로 처리하는 반면, 디코더는 입력을 왼쪽에서 오른쪽으로 단방향으로 처리하는 것이 큰 차이점입니다. 구글은 BERT 논문을 통해서 GPT-1의 트랜스포머 디코드를 사용한 자연어 처리 능력은 문맥의 이해능력에 부족함이 있을 수 있으니, 이에 단순히 왼쪽에서 오른쪽으로 읽어나가는 디코더 보다 양방향으로..

이전포스트에서 자연어(Natural language)가 무엇인지, 자연어 처리(Natural language processing : NPL)과정도 살펴보면서 음성인식, 기계번역, 텍스트요약, 챗봇, 이메일 필터등 다양한 분야에서 사용되고 있다는 걸 확인했습니다. 이번 포스트에서는 자연어처리에 탁월하다는 트랜스포머(Transformer) 머신러닝 모델에 대해 알아보겠습니다. 트랜스포머의 주요기능들을 알아보고, 나아가 어떤 분야에서 사용될 수 있는지 확인하면 생성형 AI(Generative AI)에 대한 이해가 높아질 거라 생각 됩니다. 트랜스포머(Transformer) 란? 참고 : Attention is All you Need - NIPS papers 트랜스포머 모델은 2017년 Vaswani, Ashi..

풍경사진을 고흐가 그린 그림처럼 만들 수 있는 AI 고흐, 클림트, 램브란트, 보티첼리, 피카소등 세상의 위대한 화가라고 인정받는 아티스트들에게는 자신만의 독특한 화풍으로 많은 사람들에게 감동과 영감을 불러일으키는 작품을 남겼다. "유능한 예술가는 모방하고 위대한 예술가는 훔친다." 피카소의 명언중에 가장 유명한 말이다. 이 말은 세상 아래 새로운 것은 없으며, 인류가 지금껏 만들어 놓은 최고의 것을 자신의 일에 접목하는 지혜가 필요하다는 것을 알려주고 있습니다. 이번포스트는 위의 문구처럼 내가 좋아하는 그림을 내가 좋아하는 화가가 그린 그럼 처럼 그려주는 신경 스타일 전송(Neural Style Transfer)이 무엇인지와 신경 스타일 전송에는 어떤 종류가 있는지에 대해 알아보겠습니다. 신경 스타일 ..

이번 포스트에서는 이미지 생성 분야에서 혁신적인 결과를 가져오고 있는 생성형 AI(Generative AI)의 알고리즘인 생성적 적대 신경망(GAN, Generative Adversarial Networks)에 대해 알아보겠습니다. 생성적 적대 신경망인 GAN에 대한 이해와 GAN을 활용한 분야를 살펴보도록 하겠습니다. 생성형 AI(Generative AI)의 이해가 필요하신 경우 포스트를 확인하시면 도움이 될 것입니다. 생성형 AI(Generative AI) 이번 포스트에서는 좁은 인공지능(Narrow AI)과 일반 인공지능(General AI)의 의미가 무엇인지 확인해보고, 앞으로 인공지능이 어떤 방향으로 발전하게 될지 알아보겠습니다. 최근들어 인공지능(Artifi ai.scoreanalytics.n..