【サマーインターン体験記】機械学習エンジニア@自然言語処理
見出し画像

【サマーインターン体験記】機械学習エンジニア@自然言語処理

ENGINEER SUMMER 2021 INTERNSHIPの参加者、
佐藤さんがインターン体験記を書いてくださいました!
***

◆自己紹介

こんにちは。明治大学大学院修士1年の佐藤です。
普段は対話システムを中心に、自然言語処理や深層強化学習といった分野の研究をしています。プライベートでは二次元系コンテンツや新日本プロレスを見て生きています。

◆インターンに参加しようと思ったきっかけ・決め手

エクサウィザーズについては魔法のスプレッドシート(※編集注:夏のITエンジニアインターンの情報が集まっているシート)で名前は知っていましたが、具体的に何をしているのか知りませんでした(気象系をやっているイメージがありました(笑)。実際は本当に幅広くやられています)。そんな中、Wantedlyでスカウトをいただき、エクサウィザーズのインターン内容を知り、もともと自然言語処理分野のことに取り組めて技術的に成長できるようなインターンを探していたこともあって、応募しました。特に色々な分野の”ウィザード”(エキスパート)の方々が協力しあい、様々な仕事に取り組むスタイルに魅力を感じていた他、仕事内容が明確に決まっていたこと、石山社長がAtCoderさんとの対談イベント「シバタアキラのcafeでAIたい」で話されていたことを聞いて、面白そうだなぁと思っていたのも後押ししました(聞いたことのない方はぜひ聞いてみてください。「シバタアキラのcafeでAIたい」での宗教法人×AIの話とか面白かったです)

◆5週間で取り組んだこと

自然言語処理ギルド(※編集注:ギルドとはエクサウィザーズのMLEチーム体制)にて、軽量で解釈可能なドメイン判定モデルの開発を行いました。一般的な分類モデルでの精度向上のための取り組みの他、CPU環境上で高速に動作させるための工夫やモデルの説明可能性に関する手法を用いたトレンドワード抽出の試みなどの幅広い業務を行いました。

◆印象に残っていること

・メンターさんやギルド、組織について
メンターの大西さんとは毎日30分ほどミーティングの場を設けていただき、進捗の共有やアドバイスをいただきました。それ以外にもチャットで常にコミュニケーションを取れる環境であったこともあり、フルリモートでも問題なく業務を行うことができました。他にも週1で自然言語処理ギルドのランチミーティングがあり、その場でプライベートの話や最近話題の論文、試した技術などのお話を聞かせていただく機会もありました。ギルドメンバーの方々は、トップカンファレンスでの論文採録経験がある方やkaggleにバシバシ取り組まれている方など、技術的に強い方々ばかりで刺激になりました。また技術だけでなく、ビジネスサイドも有名企業出身の方や起業経験がある方など、事業化という部分での強みを感じます。社内チャットもいくつか自由に閲覧させていただき、アニメ漫画部をこっそり覗かせてもらったりもしました。

・1on1
業務で関わりがない社員の方と話す機会も作っていただきました。人事の方からご提案をいただいたり、話してみたい方の属性を週報で希望することで1on1をセッティングいただけるため、遠慮しがちな方(私)でも色々な方との1on1の機会をいただけたと思います。私は趣味が新日本プロレスの方とセッティングいただいて、取り組まれているプロダクトや技術の話をしつつ推しの語り合いをしたり、気になっていたMLOpsをやられている方にお話を聞いたり、MLEをしながら子育てをされている方にMLEを仕事にすることについての不安について相談に乗っていただいたりと、色々な話をさせていただきました(ちなみにエクサウィザーズは男性の育休制度も整備・活用されていたり、子育てをしながら働かれている方も多く、ワークライフバランスも整っていました)。希望すればGAFA出身の方や起業経験のある方、ビジネスサイドの方ともお話ができるので、希少な機会だと思います。

・クラウドでの機械学習
業務での学習環境はAWSのsagemakerを使わせていただきました。自然言語処理ギルドでは計算資源としてV100を一人一台自由に使うことができ、言語モデルの追加学習といった長時間の学習などもさせていただきました。クラウドのMLサービスで機械学習をするということが初めてでしたが、MLOpsの社員さんに多大なバックアップをいただくことで走りきることができ、大変勉強になりました。何度も厄介な質問をしたのですが、根気強くお付き合いいただき大変感謝しております。

・東北大学 鈴木先生の相談会
東北大学の鈴木先生がエクサウィザーズの技術顧問であり、月1で相談会を開いているとのことで、インターン生もその場に参加させていただきました。話題はなんでも良いとのことだったので、私が昔参加した対話システムのコンペに関して「どうやったらコンペで他社の雑談対話モデルに勝てるか」という質問をしました。このような情勢の中、他大学の著名な先生にカジュアルに質問できる機会はなかなかないので、ありがたかったです。

・社内ディスカッションイベント
バンダイナムコグループが主催するガンダムオープンイノベーションに応募するための社内ディスカッションイベントに参加させていただきました。ガンダムオープンイノベーションとはガンダム作中に出ている未来技術の概念を参考に、アイデアと技術で実際に新しい価値の創出や夢の実現を目指すプロジェクトです。社内で上記のディスカッションが行われることを知り、お願いしてみたところ、快く参加を許してくださいました。もともとガンダム好きで多少知っていたので、「ガンダム好きな方と話してみたいなぁ」という軽い気持ちで参加したのですが、社員さん達はさらにディープな話であったり、現実的な事業化のための話をしていて衝撃を受けました。介護分野に関するプロダクトのお話や数理最適化ギルドの活動のお話を聞いていると、実際に実現できるのではないかと思えてくるのがすごいところです。エクサウィザーズの様々な分野のエキスパートが集まって協力しあっているという特徴が、「幅広い技術選択ができる」という形で現れているなと感じた出来事でした。エクサウィザーズのカルチャーについて「秩序ある混沌」と表現されている社員の方がいましたが、本当にその通りだと思います。

◆気づき・学び

今夏インターンに参加させていただいたことで、技術の幅が広がりました。実運用を意識して精度と速度のトレードオフをとったり、クラウドサービス上でSDKを用いて機械学習を行ったりすることは、大学での研究活動の中では得難い経験でした。LITなどの解釈ツールを用いた評価やpoetryを使ったパッケージ化などは今後も研究・実務で生かしていけるもので、学ぶ良い機会となりました。今回私は実務寄りの経験を積めることを期待してインターンに参加しましたが、十二分に達成されたと言えます(むしろ勉強になるばかりであまり貢献できず歯痒い思いがあります)。メンターの大西さんを始め、今回のインターンに関わられた皆様には大変お世話になりました。ありがとうございました。

***
ENGINEER INTERNSHIP 2021 WINTERを、2月に開催予定です。
ご興味ある方は是非エントリーください!
https://mle.ng.exawizards.com
***

画像1


よければシェアいただけると嬉しいです!
「AIを用いた社会課題解決を通じて、幸せな社会を実現する」をビジョンに掲げるエクサウィザーズの採用グループが、メンバー ・カルチャー ・採用情報などを紹介します。