FabNavi

FabNavi is a support system to capture assembling processes with videos/pictures and replaying data on (remote) tabletop. The system records works on tabletop with an overhead camera, and presents full scale videos/pictures on the tabletop (Figure 1).

Figure 1. The FabNavi system

The FabNavi system proposes visual instruction to assemble physical objects in remote places: (1) Recording the assembly processes easily, (2) Sharing these instruction on the web, (3) Replaying them on the (remote) tabletop (Figure 2).

Figure 2. Basic Concept of the FabNavi system

The system also aims to collect data of FAB processes in the real world, understand them using recognition techniques, and generate “recipes” (semi-) automatically (Figure 3).

Figure 3. Understanding FAB processes for generating recipes.

Implementation

The FabNavi system mainly consists of  (1) API server, (2) Capture client, (3) Browser Client.

  • API Server
    • Running on Amazon EC2 & S3. Ready for Big data.
  • Capture Client
    • iPhone & Android Client.
  • Browser Client
    • Electron App both for Win/Mac.

Applications will be delivered on http://fabnavi.org/

Screen capture of fabnavi web app

 Project Members

 Reference

  • Koji Tsukada, Keita Watanabe, Daisuke Akatsuka, and Maho Oki, FabNavi: Support system to assemblephysical objects using visual instructions, Paper presented at Fab10, Barcelona, 2-8 July (2014) [PDF]

モノづくりワークショップを対象とした振り返り動画作成支援システム

近年,FabLab などのモノづくりコミュニティが主催する,デジタル工作機器を用いたモノづくりワークショップが頻繁に開催されている.こうしたワークショップでは,制作物だけでなく,その制作過程も重要な体験である.しかし,主催者/参加者ともに,自身の作業に追われてしまうため,制作過程を手軽に記録して振り返ることは難しい.

本研究では,こうしたモノづくりワークショップの振り返り動画の作成を支援するシステムを提案する.本システムは,「ハンズフリー/複数視点からの撮影機能」と「振り返りと一体化した動画編集機能」から構成され,動画編集機能には「ツール認識」「笑顔認識」「両手作業認識」等の画像認識を用いたシーン探索機能を備える.本論文では,システムの設計/多視点動画の分析/実装について述べる.さらに,評価実験を通してシーン探索機能の性能等を検証する.

本システムの動画編集画面(図上)とシーン探索機能(図下)の一例.

本システムは,視点の異なる複数の動画を同時に再生でき,ユーザが興味の有る箇所/重要と思う箇所をタップするとその操作を記録する.ユーザが視聴を終えてCreateボタンを押すと,記録情報をもとに1本の振り返り動画を生成する.閲覧中にユーザが重要度を判断するために,「利用中の工具」「両手作業」「参加者の笑顔」等の情報(シーン探索機能)をタイムライン上に視覚化する.

発表

  • 中江 一哉, 塚田 浩二, モノづくりワークショップの振り返り支援システム, 情報処理学会研究報告, vol.2018-HCI-177, No.6, pp.1 – 8, 2018. [PDF]
  • Kazuya Nakae and Koji Tsukada. 2018. Support System to Review Manufacturing Workshop through Multiple Videos. In Proceedings of the 23rd International Conference on Intelligent User Interfaces Companion (IUI’18). Article 4, 2 pages, 2018.[PDF]
  • 中江 一哉,沖 真帆,塚田 浩二,モノづくりワークショップを対象とした振り返り動画作成支援システム,インタラクション2017論文集,インタラクティブ発表(プレミアム発表),pp.499-502, 2-509-34, Mar, 2017.[PDF]

ファブ時代に適した新たなジョイント機構の提案

従来のジョイントは,金型を用いて工場で製作される高精度なワンオフの接合方法(例:嵌め合わせ)が市販製品では多く見られる一方,個人レベルでは,接着剤などを用いて,外観や構造を気にせずに「とりあえずくっつけばよい」という刹那的な固定方法が一般的であった.このため,個人の作るプロトタイプと市販製品では,その外観や強度等に大きな差が出ていた.一方,近年の低価格な3D プリンターの普及に伴い,個人レベルでも3D モデルを設計/出力してワンオフのジョイントを出力できる環境が整いつつある.しかしながら,3D プリンターの特性を考慮しつつ,実用的なジョイントを設計することは一般の利用者には難しい.そこで本研究では,3D プリンターの利用を前提として,様々な部品や日用品同士を固定/調整可能なジョイント機構を設計,及びジョイントの調整が可能なシステムの構築を行い,ファブ時代の構造設計の効率化を目指す.

マルチクリップ3枚
作成したジョイント例

対外発表

  • 新山 大翔, 沖 真帆, 塚田 浩二, 3Dプリンターの特性に配慮した汎用ジョイント機構の提案, エンタテインメントコンピューティングシンポジウム2016論文集, pp.252-258, Nov, 2016. [PDF]
  • 新山 大翔,沖 真帆,塚田 浩二, ファブ時代に適した新たなジョイント機構の提案, ソフトウェア科学会 WISS2015論文集, pp.169-170, 2-R16, Dec,2015. [PDF]

AttachCam:センサやカメラと連携するカメラベースのデバイスツールキットの構築

デジタルカメラの小型化/低価格化は著しく,ほとんどの PC /スマートフォン/タブレットに搭載されるなど,コモディティ化が進んでいる.しかし,こうした IoT(Internet of Things)的応用においては,実世界での適切な固定方法,センサと連携した実世界の認識機能,クラウドと連携した適切な認識/フィードバック機能等が必要となり,カメラモジュール自体は安価になっても,それを用いた開発には多くの労力が必要であった.そこで本研究では,実世界の様々な箇所に手軽に固定し,様々なセンサと連動しつつ,クラウドと連携した柔軟な画像処理やフィードバックが行えるカメラベースのデバイスツールキット「AttachCam」を提案する.

筐体の様々な場所にセンサやカメラを固定できる「AttachCam」
システム全体の構成図

発表

  • 仲松 聡,沖 真帆,塚田 浩二,AttachCam: センサやクラウドと連携するカメラベースのデバイスツールキットの提案,インタラクション2016論文集,インタラクティブ発表,pp.345-349,Mar, 2016.[PDF]
  • 仲松 聡,沖 真帆,塚田 浩二, AttacheCam: センサやクラウドと連携するカメラベースのデバイスツールキットの構築, ソフトウェア科学会 WISS2015論文集, pp.207-208, 3-R18, Dec,2015. [PDF]

先頭に戻る