・ma/bi/AIdp を横断したデータパイプライン(ETL/ELT)の設計・開発・運用 ・Apache Spark を用いた大規模データ処理、および Iceberg 形式へのデータ変換処理の開発 ・Argo Workflows によるジョブオーケストレーション/ワークフローの開発・運用 ・データ不整合の検知やデータ品質担保の仕組み作り ・データ処理基盤(Spark)のパフォーマンスチューニング ・障害発生時の調査・原因特定と、監視・再発防止の仕組み作り ・AI開発ツール(Cursor/Claude Code等)を活用した開発生産性の向上
バックエンド開発経験、またはデータエンジニアとしての開発経験 / 実データ(生データ)を扱ったデータの加工・集計・パフォーマンスチューニング経験(SQL等) / AWS等のクラウドサービスを利用した開発経験
■案件概要 AI関連サービスのQAチームにて、テスト自動化の推進と品質改善を担当します。 西新宿の拠点を中心に、開発環境の自動化パイプライン構築を行います。 ■業務内容 ・未自動化領域のテスト自動化スクリプト作成。 ・既存テストコードの品質改善とリファクタリング。 ・テストケースのライフサイクル設計および運用保守。 ■開発環境 TypeScript, Python, React, Next.js, NX, pytest, LangSmith, Weights & Biases, BigQuery, Spark, Pandas, GCP, Docker, Terraform, GitHub Actions
ソフトウェアエンジニアリング3年以上 TypeScript開発1年以上
前年同期比600%成長・9プロダクト400社導入の実績を持つ最先端AIスタートアップにて、プロダクト品質を担保する自動化エージェント等の開発を担います。本番コードのほぼ100%をAIで生成する環境下で、「AI×QA」という市場価値の極めて高い経験を積むことができます。 ・自動化未着手領域の優先度付けと自動化の推進 ・既存の自動テスト品質改善(カバレッジ・保守性・信頼性向上) ・テストケースのライフサイクル(作成・実行・評価・棚卸し・廃止)の設計と運用 ・AI / LLMを用いたテストケース生成・改善エージェントの構築
TypeScript ・ソフトウェアエンジニア経験 (3年以上) ∟TypeScript での開発経験 ・AIを活用し、自動テストや業務改善を実践した経験 ・品質視点でのテスト設計、手動テスト・検証のご経験 ・ビジネス / CS / エンジニアなど、非エンジニアとのコミュニケーション経験
大手通信企業向けデータ分析基盤の運用保守およびSnowflakeのエンハンス開発を担当します。 Python・SQLによるデータ操作や変換、DWH・ETL開発、自動化ツール作成、AI活用、既存システムの改修や改善を行います。 PM・TL配下でアジャイル開発に参画します。 【技術スタック】 ・開発言語:Python、SQL ・クラウド:AWS ・AWSサービス:EMR、Lambda、S3 ・データ処理:Spark ・DWH:Snowflake ・開発手法:アジャイル 【作業期間】 7月後半~9月末想定 【作業時間】 10:00~19:00
・Python、SQLを用いたETL・DWH開発経験 ・既存システムの改修・方針検討の経験
【20代、30代が活躍中!】 ※週5日〜OKの案件です! ※実務経験1年以上お持ちの方が対象の案件です! ▼概要 AIプロダクト開発におけるテスト自動化基盤・QAエージェントの開発 複数プロダクトを展開する環境で、QA業務の自動化はすでに約50〜60%まで進んでいます。次のフェーズでは自動化率を積み増すことではなく「何を」「どう」自動化し、どう育てていくかという質が問われます。 ソフトウェアエンジニア・フルスタックエンジニアとしての実装力を土台に、AIを活用して下記を推進いただきます。 1. 自動化できていない箇所の自動化 ・優先度をつけて着実に対象領域を広げる 2. 自動化されているテストの品質改善 ・カバレッジ・保守...
・ソフトウェアエンジニア経験(3年以上) - TypeScriptでの開発経験 ・AIを活用し、自動テストや業務改善を実践した経験 ・品質視点でのテスト設計、手動テスト・検証のご経験 ・ビジネス/CS/エンジニアなど、非エンジニアとのコミュニケーション経験
募集背景: 9プロダクトを展開しており、QA業務の自動化はすでに約50~60%まで進んでいます。 次のフェーズで求められているのは、自動化率を積み増すことではなく「何を」「どう」自動化し、どう育てていくかという質の勝負です。 ソフトウェアエンジニア・フルスタックエンジニアとしての実装力を土台に、AIを活用して下記を推進できる方を募集します。 業務内容: 1. 自動化できていない箇所の自動化 →優先度をつけて着実に対象領域を広げる 2. 自動化されているテストの品質改善 →カバレッジ・保守性・シグナルの信頼性を高める 3. テストケースのライフサイクル自体を設計し、改善が回る仕組み作りと運用 →作成・実行・評価・棚卸し・廃止...
(必須) ・ソフトウェアエンジニア経験 (3年以上) ・TypeScript での開発経験 ・AIを活用し、自動テストや業務改善を実践した経験 ・品質視点でのテスト設計、手動テスト・検証のご経験 ・ビジネス / CS / エンジニアなど、非エンジニアとのコミュニケーション経験 (尚可) ・フルスタック開発経験 (バックエンド + フロント) ・テスト自動化フレームワーク (Playwright / Cypress / Jest / Vitest 等) の利用経験 ・CI/CD の構築経験 ・クラウド環境 (GCP / AWS / Azure) での開発・運用経験
東京から世界に音楽やファッションなどを発信していくサイトになります。 サーバーサイドにて管理画面を作成頂きます。 リリース後は引き続き後運用をご担当頂きます。 [体制] エンジニア2名+PM [開発環境] フロント:Java,Spark,DynamoDB サーバーサイド:LAMP環境、YiiFW,AWS,nginx,RDB,git,Backlog,Slack,travis CI
Java PHP PHPでの開発経験2年以上 MVCFWの経験
■概 要: Databricksを用いたデータ処理基盤の設計・構築案件。 現行システムはSnowflakeにて構築されていますが、 「リアルタイム性」「プライバシーガバナンス要件」「検索性能」の面で課題があり、 Databricksを用いたPoCを実施してきました。 PoCにて要件を満たせることが確認できたため、本番適用に向けた開発フェーズに移行しています。 ※作業概要 ・各サービス開発者に対するDatabricks移行支援および各種調整 ・Databricks環境における運用設計/運用手順書の作成 ・インフラ基盤の設計/構築(AWS、Terraform等のIaC) ■スキル: <<必須>> ・AWSおよびTerrafor...
スマートフォン向けのWallet(決済・財布)機能における、サーバーサイド(API)の開発業務です。 基本設計から実装、リファクタリングまで一連の工程をご担当いただきます。 フロントエンド(スマホアプリ側)の経験は一切不要。REST APIの実装やJavaコードのリファクタリングなど、サーバーサイドの強みを存分に活かせる環境です。 \案件の魅力/ ★注目度の高いフィンテック領域の経験! 現代のインフラとも言える「スマホWallet機能」の開発に携わることができます。社会的な影響力も大きく、今後のキャリアにおいて強力な実績となります。 ★技術を追求できるリファクタリング環境! 単に機能を新規追加するだけでなく、「Javaコード...
・RestAPIの経験豊富(3年以上) ・Java、Spring Frameworkを用いたWebアプリケーション開発経 (5年以上、REST APIの実装経験(APIクライアント含む) ・Javaコードのリファクタリングができる ・Git/GitHubを用いたチーム開発経験 ・Dockerを用いたサーバーサイドアプリケーション開発経験
大手メーカー向けデータ利活用支援案件にて、既存ETLシステムの改修業務を担当します。 構築済みシステムへのIF追加・変更に伴う改修を中心に、要件定義から設計、開発、試験まで幅広く対応いただきます。参画初期はソースコード修正や試験工程からキャッチアップを行い、徐々に上流工程も担当いただく想定です。 【技術スタック】 ・クラウド:AWS ・AWSサービス:Glue、S3、IAM ・開発言語:SQL、SparkSQL ・BIツール:PowerBI
・設計スキル ・SQLの実装経験 ・Glueを用いたETL処理経験またはSQL主体のETL設計・実装経験 ・AWS基本知識(S3、IAMロール等)
人流データおよび消費データを活用した分析基盤構築案件です。ブログウォッチャーから提供される人流データとSMBC消費データをAWS S3へ蓄積し、AthenaおよびGlueを活用した中間加工・ETL処理を実施します。 QuickSightから参照するためのデータセット設計やダッシュボード構築も担当いただきます。データパイプライン設計からデータレイク運用、可視化基盤構築まで一貫して携われるポジションです。 【技術スタック】 ・クラウド:AWS ・データ分析:Athena、QuickSight ・ETL:Glue(PySpark) ・ストレージ:S3 ・SQL:Presto SQL
・AWS Athena(Presto SQL)の実務経験 ・AWS Glue(PySpark)の実務経験 ・AWS S3を用いたデータレイク設計経験 ・Athena/Glueを用いたETL・データ加工経験
【20代、30代が活躍中!】 ※週5日〜OKの案件です! ※実務経験1年以上お持ちの方が対象の案件です! ▼概要 大手インターネット企業におけるLLMOps / MLエンジニア 【業務概要】 ・Langfuseを用いたLLMトレース・評価基盤の設計 ・自動評価 / 人手評価の設計および運用 ・ログデータ分析による品質課題の特定 ・プロンプト / モデル改善提案と検証 ・改善サイクルの仕組み化(再現可能な運用設計) ・コスト・トークン最適化設計 ◆主な開発環境・ツール -Cloud Google Cloud(BigQuery / GCS / STS / VPC-SC / IAM) Oracle Cloud(Exadata ...
・LLM/MLの本番運用経験 ・モデル評価指標の設計経験 ・データ分析に基づく改善提案経験 ・LLMOpsツールの利用経験
・大手リース会社の根幹を支える情報系システムにおいて、現行のバッチ処理における性能課題を打破する極めて重要なミッションです。 具体的には、Databricksへの移行を通じて、膨大なデータの高速処理を実現していただきます。 現行のSQLロジックを深く読み解き、最適なアーキテクチャへの再設計(基本、詳細設計)から、テストツールを駆使した品質担保、さらにはジョブ性能のチューニングまで、エンジニアとしての技術的好奇心を刺激する一気通貫の業務内容です。 ・データ基盤の近代化という、クライアントのビジネススピードを加速させるやりがいの大きなプロジェクトに、あなたのスキルを最大限に活かしてみませんか。 ※リモートワーク可
Python ・SQLの実務経験:3年以上 ・PySpark、またはPythonの実務経験
【20代、30代が活躍中!】 ※週5日〜OKの案件です! ※実務経験1年以上お持ちの方が対象の案件です! ▼概要 大手インターネット企業におけるLLMOps / MLエンジニア ・Langfuseを用いたLLMトレース・評価基盤の設計 ・自動評価 / 人手評価の設計および運用 ・ログデータ分析による品質課題の特定 ・プロンプト / モデル改善提案と検証 ・改善サイクルの仕組み化(再現可能な運用設計) ・コスト・トークン最適化設計 ◆主な開発環境・ツール - Cloud Google Cloud(BigQuery / GCS / STS / VPC-SC / IAM) Oracle Cloud(Exadata / Data...
・LLM/MLの本番運用経験 ・モデル評価指標の設計経験 ・データ分析に基づく改善提案経験 ・LLMOpsツールの利用経験
大手インターネット企業の全社横断的なデータ分析基盤、およびAIデータアクセス基盤をゼロベースから設計・構築していただきます。 クロスクラウド環境でのデータ基盤構築から、最新のMCP/Agentを用いたAI連携まで、モダンなデータエンジニアリングの最前線に立つワクワクするプロジェクトです。 ・全社データ分析基盤のアーキテクチャ設計・構築 ・データレイク / DWH(BigQuery)基盤の設計・運用 ・ETL / ELTパイプラインの設計・開発 ・クロスクラウドデータ連携(OCI → GCP)の設計・実装 ・データモデリング(OBT / mart)の設計 ・Terraformを用いたIaCによるインフラ管理 ・デ...
Python ・LLM/MLの本番運用経験 ・モデル評価指標の設計経験 ・データ分析に基づく改善提案経験 ・LLMOpsツールの利用経験
自動車会社およびコールセンター向けSNSに投稿される顧客評価テキストデータを対象に、生成AIを用いて分類および要約を行うデータ分析システムの構築プロジェクトです。 本案件ではPoC段階ではなく、本番稼働に向けたシステム構築フェーズに参画いただきます。分析精度を維持しながら処理性能を高め、生成AIの利用コスト削減を実現するための処理ロジックの設計および実装を担当します。 主な業務は、データ分析システムのバッチ処理設計、Pythonを用いたデータ処理ロジックの開発、処理パフォーマンスの改善、生成AI呼び出し処理の最適化などです。 テキストデータの分析処理を効率的に実行するためのアーキテクチャ設計や、生成AIを活用した業務シス...
AWS ・PythonまたはPySparkを用いたバッチ処理の設計および開発経験 ・生成AIを活用したアプリケーション開発経験 ・生成AIのプロンプト設計およびコスト最適化の経験 ・本番システムの構築または運用経験 ・クラウド環境での開発経験
経験20年、データ基盤構築を中心に要件定義から一貫して対応可能。言語/FW: Python、Scala、PHP。インフラ/その他ツール: AWS、Snowflake、GCP、MySQL、MongoDB、Hadoop、Spark、Kafka、Airflow、Linux、Apache、Kudu、ShellScript、Git、SVN、Redmine。
Python
・ データレイク / ETL 基盤の構築 ・ AWS Glue(Apache Spark)による分散処理 ・ ETL 開発 ・ S3 / Lake Formation を用いたデータ管理・セキュリティ設計 ・ BigQuery ベースの DWH 環境整備 ・ AWS → GCP 間データ連携パイプラインの最適化 ・ BigQuery によるデータモデリング・クエリ最適化 ・ IaC を軸としたマルチクラウド管理 ・ Terraform による環境差分管理・自動化 ・ 品質管理・運用効率化 ・ Airflow などのワークフロー管理と CI/CD 整備 ・ データ品質テストの自動化
・ AWS 環境でのインフラ構築・運用経験(S3 / IAM / VPC など) ・ GCP での構築経験(特に BigQuery と IAM/ネットワーク設定) ・ BigQuery を用いた分析 SQL 実務経験(パーティショニング/クラスタリング)・ ・ AWS Glue(PySpark)での ETL 開発・パフォーマンスチューニング ・ Terraform による IaC 実践(マルチクラウド or 複数環境)
データレイク / ETL基盤の整備として、AWS Glue(Apache Spark)を用いた分散処理およびETL開発、S3やLake Formationを活用したデータガバナンスおよびセキュリティ設計を行います。
AWS 環境でのインフラ構築・運用経験(S3 / IAM / VPC など) AWS Glue(PySpark)での ETL 開発・パフォーマンスチューニング経験
・基本設計~結合テスト、保守をご担当 ・フロント:Javascript、Angular、HTML ・サーバー:Java8、SpringBoot、Elasticsearch、ApacheSpark ・DB:AWSAurora、AWSDynamoDB、ApacheCassandra ・インフラ:AWSEC2、S3、EBS、ElastiCache 週5日、リモート
・Java、JavaScript経験:3年以上
Databricksを活用したデータ基盤構築プロジェクトに参画いただきます。基本設計から詳細設計、開発、テストまでを一貫して担当し、スキルに応じて要件定義などの上流工程にも携わっていただきます。AWS環境上でのデータ分析基盤構築を中心に、ビッグデータ処理やデータパイプライン整備など、データ活用を支える重要なポジションです。 【技術スタック】 ・クラウド:AWS ・開発言語:Java、Python
・Databricksでの開発経験 ・AWSやデータ分析関連案件に携わったご経験
大手自動車関連プロジェクトにて、ADAS(先進運転支援システム)および自動運転、コネクテッド領域の開発を担当します。 ご経験に応じて、プロジェクトマネジメント、モデルベース開発、車載組込みソフト開発、データ基盤構築、品質評価・検証などのポジションをご提案します。 自動車業界における大規模開発プロジェクトで、機能安全や品質基準に準拠した開発を推進していただきます。英語を用いたドキュメント対応や海外拠点との連携が発生する可能性もあります。 【技術スタック】 ・開発言語:C言語、C++、Python、Java ・クラウド:AWS、Azure ・データ処理:Spark ・その他:AUTOSAR
・車載システム(自動車業界)での開発・実務経験がある方
データ基盤構築をお任せします。 ・データレイク / ETL 基盤の構築 ・ AWS Glue(Apache Spark)による分散処理・ ETL 開発 ・ S3 / Lake Formation を用いたデータ管理・セキュリティ設計 ・ BigQuery ベースの DWH 環境整備 ・ AWS → GCP 間データ連携パイプラインの最適化 ・ BigQuery によるデータモデリング・クエリ最適化 ・ IaC を軸としたマルチクラウド管理 ・ Terraform による環境差分管理・自動化 ・ 品質管理・運用効率化 ・ Airflow などのワークフロー管理と CI/CD 整備 ・ データ品質テスト...
・ AWS 環境でのインフラ構築・運用経験 ・ GCP 環境でのインフラ構築経験 ・ETL開発及びパフォーマンスチューニング経験
【20代、30代が活躍中!】 ※週5日〜OKの案件です! ※実務経験1年以上お持ちの方が対象の案件です! ▼概要 SaaSサービス データ分析・AI活用プロジェクトデータサイエンティストポジション 【業務内容】 本サービスは、ChatGPT、GPT-4 など生成AIを活用した法人向けプラットフォームおける、データ分析・AI活用プロジェクトデータサイエンティストポジションの募集になります。 ・生成AIプラットフォームの利用ログや業務データを活用したデータ分析・可視化 ・ユーザー行動分析、離脱率分析、機能利用状況の可視化 ・AIモデル出力データを用いた品質評価(精度・誤答率・業務貢献度など) ・Pythonを用いたデータ前処...
・Pythonによるデータ分析実務経験3年以上(pandas, NumPy, scikit-learn, matplotlib 等) ・SQLを用いたデータ抽出・集計・分析経験(MySQL / PostgreSQL / Redshift 等) ・データ可視化・レポーティングの実務経験(BIツールまたはJupyter等) ・統計分析、回帰・分類などの基本的な機械学習手法の実装経験 ・ビジネス課題を整理し、分析テーマに落とし込んだ経験
クラウド環境におけるデータ基盤構築および運用支援業務。ETL/ELTによるデータ取込と整形、データ品質管理、AI/分析チームとの連携・調整。MLOpsや生成AIなど新技術の検証・活用支援も担当。 【技術スタック】 ・開発言語:Python、SQL ・クラウド:Azure/AWS/GCP(いずれか) ・ETL基盤:Databricks、Spark、Data Factory(尚可) ・技術領域:MLOps、生成AI、NLP、RAG(尚可)
・Pythonを用いたデータ処理、データ加工の経験 ・SQLを用いたデータ操作経験 ・クラウド環境(Azure/AWS/GCPいずれか)での業務経験 ・データ基盤やバッチ処理、ETL等の実務経験 ・関係者と調整しながら業務を進められるコミュニケーション力
「走行データ」という巨大な資産を価値に変える。エンジニアとしての知的好奇心を刺激するプロジェクトです。本プロジェクトでは、車両から収集される膨大なデータを可視化するシステムの機能追加・維持保守を担当します。 ・監視レポート作成および分析報告 ・設計、製造、単体〜システムテスト、リリース作業までの一貫したデリバリー 市場価値・キャリアメリット: 「Connected Car × Cloud」の専門性を磨き、市場価値の高いエンジニアへ。 現在、自動車業界で最も注目される車載データの活用に携わることで、IoT分野の深い知見が得られます。また、AWSを用いたビッグデータ処理の経験は、今後のクラウドネイティブなキャリアにおいて強力...
Java ・Javaを用いたWebアプリケーション開発経験(5年以上) ・AWS環境下での開発経験(2年以上) ・基本設計からテスト、リリースまでの一連の工程を自走できる方 ・各種レポート、報告書の作成スキル
AWSとGCPを併用したハイブリッドクラウド基盤におけるデータパイプライン設計・開発を担当します。GlueによるETL処理、S3やLake Formationを活用したデータ管理、BigQueryを用いたDWH環境整備、Terraformによる環境構築の自動化、Airflowによるジョブ管理といった幅広い工程をお任せします。 【技術スタック】 ・開発言語:Python、Go、Java ・データ処理:AWS Glue(PySpark)、BigQuery ・インフラ:AWS、GCP ・IaC:Terraform ・ワークフロー管理:Airflow、MWAA ・データ管理:S3、Lake Formation ・BI:Looker ...
AWS・GCP ・AWS環境でのインフラ構築・運用経験(S3 / IAM / VPC など) ・GCP構築経験(BigQuery、IAM/ネットワーク設定) ・BigQueryでの分析SQL経験(パーティショニング/クラスタリング) ・AWS Glue(PySpark)でのETL開発 ・Terraformを用いたIaC実践
大手インターネット企業の新規DWH構築プロジェクトに参画いただき、社内に散在するデータの一元管理を目的とした基盤整備を担当します。 BigQuery/Airflow を軸に、データ取り込みパイプラインの設計・開発・運用改善までを一貫してお任せします。Google系およびオープンソース技術を用い、データの連携・加工・集約を行う土台を構築していく想定です。 フルリモートが可能で、拠点は品川ですが基本的に出社は発生しません。
▼ご提案の際はスキルに◯×をお願いいたします。 ・BigQuery を用いた開発経験 ・DWH/データ基盤の設計・開発経験 ・Airflow の実務利用経験 ・データ取り込みパイプラインの設計・実装経験
新規データベース構築に伴い、ETL処理の設計・開発、既存パイプラインの保守運用業務をご担当いただきます。Pythonやdatabricks、SQLを中心に活用し、安定したデータ処理基盤の維持・改善を行います。 【技術スタック】 ・開発言語:Python ・分析基盤:databricks ・DWH:Google BigQuery ・データ処理:Apache Spark(PySpark)
・Pythonの業務経験(2年以上) ・SQLの業務経験(2年以上) ・システム開発に関する設計・開発・テストの経験(3年以上)
下記ご確認の上、ご応募お願いいたします。 ーーーーーーーーーーーーーーーーーー ・本案件は、日本人限定 ・東京の顧客先に出社可能な方 ・週5日(月〜金)で稼働可能な方 *副業、請負案件ではございません。 ーーーーーーーーーーーーーーーーーー ・データ分析基盤構築およびアプリケーション開発(Java、Scala、Spark) ・AWS上でのJavaバックエンド開発 週5日、リモート
・Javaを使ったバッチ処理の設計、開発の経験 ・AWS使っての開発経験
設備事業を展開するクライアントのDX推進プロジェクトとして、 社内外の膨大なデータを一元的かつ効率的に管理するための統合データ基盤構築に参画いただきます。 現在稼働中のTableau環境に加え、新たに高速かつ柔軟なデータ処理が可能な「Databricks」を導入し、 データレイクとDWH(データウェアハウス)の統合を目指します。 エンジニアの方には、主に以下の業務をお任せします。 ・Databricksを用いたデータ基盤環境の追加構築 ・Python/Sparkを活用した高効率なデータパイプラインの設計および実装 ・周辺データの準備処理(ETL/ELT)およびワークフローの整備 モダンなデータエンジニアリング技...
Python ・大規模データ基盤構築プロジェクトにおける構築実務経験(データ設計/データパイプライン処理実装等) ・Pythonを使用したデータ分析などのご経験:3年以上
AWS環境上に構築されたDWHシステムの機能追加・改修・保守対応を行います。 ETLツール(AWS Glue)やPySparkを用いたバッチ開発、EventBridgeやStep Functionsでのジョブ管理、CloudWatchやDatadogによる監視運用設計を実施します。 またTerraformでのインフラ構築・管理、Gitによるバージョン管理も担当範囲です。 【作業期間】 2025年12月~(長期予定) 【作業時間】 9:30~18:00(昼休憩 12:00~13:00)
AWS ・クラウドインフラの開発・保守経験 ・Terraformの利用経験 ・Gitの利用経験
Databricksを活用したデータ基盤の構築・移行プロジェクトにて、要件やスキルに応じた開発・推進業務をご担当いただきます。 【具体的な業務内容】 ・既存DWH(Teradata等)からDatabricksへのデータ基盤移行 ・Python、PySpark、SQLを用いたETL開発・データ加工・検証業務 ・現新比較・差異分析および各種試験の推進 ・Databricks上での共通部品・データ提供基盤の設計および実装 ・データ基盤のアーキテクチャ設計・技術リード支援 募集背景 Databricksを活用したデータ基盤案件の複数立ち上げに伴う体制強化・増員募集となります。
・DatabricksまたはSpark / PySparkを用いた開発実務経験 ・SQLを用いたデータ分析またはETLパイプラインの開発経験
Databricksを活用したデータ基盤関連プロジェクトにて、移行から開発・技術支援まで幅広くご担当いただきます。 保有案件が複数あるため、スキルやご志向に応じて以下の業務をお任せいたします。 【主な業務内容】 ・既存DWH(Teradata等)からDatabricksへのデータ基盤移行 ・Python/PySpark/SQLを活用したETL開発・データ加工・検証作業 ・移行に伴う現新比較、差異分析、試験計画および推進 ・Databricks上における共通部品・データ提供基盤の設計・開発 ・Databricksアーキテクチャの設計および技術リード 募集背景 Databricksデータ基盤案件の増加に伴い、リーダー層からメン...
・Databricks、またはSpark/PySparkを用いた実務開発経験 ・SQLを用いたデータ分析またはETL開発の実務経験
以下、概要になります ・フルリモート可能です ・自動車メーカーにおける保険契約関連システムへの追加開発対応 ・役割:開発メンバー ・主な業務:外部データ取り込み処理の設計・開発、データのクレンジング・変換処理の実装、テーブル・ビューの設計、BIツール連携用テーブルの設計など ・初日のみ端末受け取りなどで出社の可能性あり
・Pythonを用いたSpark処理の設計・開発経験(外部データ取り込み、クレンジング・変換処理) ・データ処理パイプライン用テーブルインターフェースの設計経験(テーブル・ビュー設計) ・Databricksの基礎的な知識(参画後のキャッチアップでも可)
以下、概要になります ・フルリモート可能です ・自動車メーカー向けに車両データを活用して市場不具合を早期検知する品質管理システムの追加開発対応 ・役割:開発メンバー ・主な業務:外部データ取り込み処理の設計・開発、データのクレンジング・変換処理の実装、テーブル・ビューの設計、BIツール連携用テーブルの設計など ・初日のみ端末受け取りなどで出社の可能性あり
・Pythonを用いたSpark処理の設計・開発経験(外部データ取り込み、クレンジング・変換処理) ・データ処理パイプライン用テーブルインターフェースの設計経験(テーブル・ビュー設計) ・Databricksの基礎的な知識(参画後のキャッチアップでも可)
案件多数!フリーランス未経験の方もOK! インボイス未登録の方もご応募ください! リモート案件も多数ありますが、 オンサイト作業可能な方は大歓迎です。 ■■想定作業 ・Databricks導入に向けた設計構築・検証対応 ・AWS環境でのデータパイプライン開発 ・SQL/Python/Sparkによるデータ処理開発 ・現行システム調査および顧客連携対応 ・AI活用による業務効率化支援
・パイプライン開発およびSQL/Python/Sparkのご経験 ・AWSプラットフォームを利用した開発経験のある方 ・データ基盤構築またはクラウド開発のご経験 ・顧客課題に対する提案・改善経験のある方 - 基本週5日フルタイム作業が多いです。 - 副業希望の方はミスマッチです。
【案 件 名】 OCI Dataflowの構築・サイジング・チューニング 【案件概要】 OCI環境でDataflowを使用してバッチ処理を稼働させるに伴い、 各種パラメータ設計および設定、サイジング。 性能問題が発生した場合のチューニング。 【作業場所】 都内(飯田橋または門前仲町)、リモート ※週3程度の出勤を希望 【募集人数】 1名 【期 間】 8月~(9月開始でも可) 【面談回数】 1回 【単 価】 88万~98万円まで 【精 算】 有(下限140h ~ 上限200h)
【スキル】 ①Apache Sparkを用いたデータバッチ処理の開発・運用経験(3年以上) ②Spark環境における、サイジングおよび性能チューニングの実務経験
- 位置情報ビッグデータ分析基盤の設計・構築を担当し、移動体データの評価・比較やデータ調達支援を行い、位置情報データ処理ソリューションの活用を推進します。
- スケーラブルなデータパイプラインやETL基盤の構築、AWS環境での位置情報データ分析やCI/CDシステム構築、機械学習モデルを活用した予測分析を行います。
- 高単価で5年以上の経験を活かし、AWS・Sparkを駆使したスキルをさらに磨き、千代田区神田でハイブリッド勤務が可能です。
- 千代田区神田でハイブリッド勤務が可能で、通勤の負担を軽減しつつ、オフィスでの協働も実現でき、柔軟な働き方を実感できます。
- 高単価(800,000円〜850,000円/月)で、5年以上の経験を活かし、AWS・Sparkを駆使したスキルをさらに磨き、業界トップレベルのデータエンジニアとしての価値を高められます。
- 位置情報ビッグデータを扱うプロジェクトで、地理空間データの評価・比較やデータ調達支援を行い、実務経験をさらに深められます。
データ調達支援や位置情報データ処理ソリューションの設計、開発等を担当いただきます。
・データエンジニアとしての経験(5年以上) ・要件定義以降の経験 ・大規模なデータ処理経験 ・データパイプライン/データ処理基盤構築経験 ・AWS環境での開発経験 ・Apache Spark等のビッグデータフレームワーク利用経験 ・Python/Java/SQLでの開発経験 ・Linux/Bashの利用経験 ・DB/サーバーサイド設計実装経験
インディバースフリーランスであなたにピッタリの
フリーランス案件が見つかる
6万件以上のフリーランス案件から一括検索
エンジニア・クリエイター・コンサルタント向けのたくさんの案件を一括検索可能です。
あなたの専門性と希望条件に最適な案件を厳選してお届け
プロフィール登録で、あなただけのカスタマイズされた案件情報を受け取れます。時間をかけずに理想の案件を見つけましょう。
インディバースフリーランスであなたにピッタリの
フリーランス案件が見つかる
6万件以上のフリーランス案件から一括検索
エンジニア・クリエイター・コンサルタント向けのたくさんの案件を一括検索可能です。
あなたの専門性と希望条件に最適な案件を厳選してお届け
プロフィール登録で、あなただけのカスタマイズされた案件情報を受け取れます。時間をかけずに理想の案件を見つけましょう。