PINGPONG AI RESEARCH

"Make AI Social"

꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰

이번 ICLR 2020에서 구글 리서치 팀은 새로운 pre-training 기법을 적용한 language model, ELECTRA (Efficiently Learning an Encoder that Classifies Token Replacements Accurately)를 발표하였습니다. 기존 BERT를 비롯한 많은 language model들은 입력을...

이주홍 | 2020년 05월 08일

꼼꼼하고 이해하기 쉬운 Reformer 리뷰

이번 ICLR 2020에서는 여러 특기할 만한 구조들이 제안되었습니다. 그 중에서 저희가 인상깊게 본 구조는 구글에서 제안한 Reformer입니다. 기존의 Transformer 구조는 데이터 토큰이 조금만 많아져도 모델 크기가 엄청나게 커지는 문제가 있었습니다....

구상준 | 2020년 04월 29일

TensorFlow TPU 학습 101

핑퐁팀은 PyTorch뿐만 아니라 TensorFlow 2.0도 활발하게 사용하고 있습니다. 최근 팀 내에서 TPU를 활용하여 학습하는 프로젝트를 진행하고 있는데, 이 글에서는 TF 2.0을 기반으로 짜여진 모델을 Google Colab과 Google Cloud Platform (GCP)을...

홍승환 | 2020년 04월 17일

친근하고 귀여운 챗봇 디자인 3편 - 비주얼 디자인 편

작년 여름, 구글은 인터랙티브 캔버스(Interactive Canvas)라는 프레임워크를 발표했습니다. 음성과 텍스트 인풋으로만 작동했던 기존의 구글 어시스턴트에 비주얼을 더할 수 있게 된 것입니다. 화면 전체를 이용한 시각적&촉각적 인터랙션이 가능해지면서, 그전까지 GIF 짤을...

나선일 | 2020년 04월 16일

핑퐁팀 ML 세미나, 그 네번째

새해가 밝은 지 얼마 되지도 않았는데 벌써 2020년도 1/6이나 지나갔습니다. 그 짧은 시간에도 수많은 좋은 논문들이 발표되었습니다. 우리의 불쌍한 핑퐁팀 ML 사이언티스트들은 이에 뒤처지지 않게 늘 공부하고 또 공부합니다. 우리의...

구상준, 백영민, 김준성, 이주홍, 장성보, 정다운 | 2020년 03월 16일

친근하고 귀여운 챗봇 디자인 2편 - 대화 디자인 편

지난 글에서는 어떤 점을 고려해서 귀여운 루나의 페르소나를 디자인했는지 소개해드렸어요. 이번 블로그 글에서는 루나 사례를 통해 사람들과 친근한 관계를 맺을 수 있는 대화를 어떻게 디자인하면 좋을지 얘기해보려고 해요. 사람들도...

최예지 | 2020년 02월 25일

구글의 Open-Domain 챗봇 'Meena' 논문 리뷰

최근에 인터넷을 떠들썩하게 한 논문이 하나 발표되었습니다. 바로 구글 브레인이 발표한 ‘Towards a Human-like Open-Domain Chatbot’이라는 제목의 논문입니다.

김종윤 | 2020년 02월 18일

핑퐁팀의 Python 문화 구축기

핑퐁팀은 머신러닝 모델 실험 코드부터 프로덕션에 이르기까지 Python을 많이 사용합니다. 하나의 프로젝트는 여러 명의 협업으로 진행되기 때문에 그 특성상 스타일, 구조의 불일치로 많은 문제를 겪을 수 밖에 없습니다. 이 문제를...

정욱재, 홍승환 | 2020년 02월 12일

친근하고 귀여운 챗봇 디자인 1편 - 페르소나 편

핑퐁팀에서 구글 어시스턴트에 출시한 ‘파이팅 루나’라는 일상대화 챗봇을 아시나요? 루나는 작년 초 구글 어시스턴트에 탑재된 귀여운 여고생 챗봇이에요. 유치할 것 같기도 한 이런 챗봇을 사람들이 정말 좋아하는지 긴가민가 하시죠?

최예지 | 2020년 02월 03일

이전 1 2 3 다음