Apache Sparkの業務委託案件・フリーランス求人一覧｜ページ5

【エンド直/フルリモート/フレックス有/Python/AWS】データエンジニア募集

【仕事内容(概要)】 - 『SaaS+Database』サービスを支えるビッグデータ（数十TBオーダー）基盤の構築・改善 【仕事内容】 以下のいずれか、もしくは複数を対応いただきます。 - Webデータクローリングのためのパイプライン新設や改善 - データのクレンジングやエンリッチメント処理 - データの品質改善を目的とした品質モニタリング環境の構築 - スケーラブルかつコスト効果の高いデータ基盤への改善 - 将来的なデータサイエンス活用を踏まえたデータ基盤やデータ品質整備設計

【SQL】【インフラエンジニア】製造業様向けAzure Databricks開発の求人・案件

製造業様向けAzure Databricks開発業務に携わっていただきます。\n\n主に下記作業をご担当いただきます。\n・顧客の作成中のソースのレビュー、データ変換・移行に関する分析\n・Bronzeにあるデータを変換して次のSilver Layerに持っていく（Bronze⇒Silver⇒Gold）\n・Gold LayerのデータをMLなどに活用、BIで分析\n・Azure Databricksソリューションの設計とデリバリー\n・要件分析とソリューションアーキテクチャ設計及び仕様の作成\n・データモデリングとデータアーキテクチャ設計\n・ETL、データ統合、およびデータ移行の設計\n・データ品質システムとプロセスの設計...

Python／広告事業のデータマイニング・機械学習エンジニア募集案件・求人

複数ある自社広告配信プロダクトの100億レコード以上/日のログを分析し、広告配信を最適化する業務を担当いただきます。 【主な仕事内容】 ・ビジネスインパクトが大きなKPI改善の見極め ・KPI（CPCなど）最適化の改善及び運用

【Java/Python/生成AI】生成AI/LLM専任チーム

■概要 ・プロダクトへの生成AI/LLM技術適応の開発 ・生成AI・LLMに関わるサービスの技術選定、アプリケーションのアーキテクチャ設計 ・生成AI・LLMに関わる最先端の技術キャッチアップ・外部発信

【六本木/リモート併用】AzureDatabricks開発支援

■概要 Azure Databricks 開発案件（CXプロジェクトの一環としてデータマネージメントシステム）。 顧客の作成中のソースのレビュー、データ変換・移行に関する分析。 １つLayerにあるデータを変換して次のLayerに持っていく。 （Layer 1⇒Layer 2⇒Layer 3） Layer 3でMLなどに活用、BIで分析（別チームが動いている）

【Java】新たなマーケティングに繋げるデータベースエンジニア案件

Webサイトやスマホアプリからユーザーの行動データを収集して マーケティングやWeb施策に活用するために抽出、集計を行うためのDMPの構築 フェーズ：設計、製造・単体テスト、結合テスト

Scala/　サーバーサイドエンジニア案件

広告技術のDSP開発をお願いします。 本事業部では、各社とのシステム連携により広告を表示しています。 1つのリクエストに対して100ミリ秒で応答を返すという制限(低レイテンシ)と 秒間1万を超えるリクエストを処理(ハイスループット)するシステムを作ります。 メイン言語はScalaを利用し、インフラ環境はGoogleCloudPlatformを利用しています。 エンジニア５人程度のチームでアジャイル開発のプロセスをベースにカンバンなどで作業進捗を確認しながらすすめ、 ドキュメントはコミュニケーションと保守に必要な最低限の情報で作成し、システムの実装、開発、運用をしています。

【Java】データベースエンジニア案件

設計、製造・単体テスト、結合テスト 抽出・集計を行うためのDMP構築・Webサイト・スマホアプリからのユーザーデータの収集

【Python】収集データ分析システム開発

メディアの収集データを分析してくれるシステムを開発していく案件での人員募集になります。 元請け側のチームに参画し、 維持管理しているシステムの定常業務＋案件が発生したときに対応するメンバーを募集します。 直近だとSnowflakeに移行する案件などが維持管理に移ったりしているのでそういった案件を維持しつつ発生案件に対応していきます。 基本は、Snowflakeの開発案件が多いチームです。 長期的に支援いただける要員を探しております。 ※Pythonとrubyとでそれぞれ案件が複数あり、現状はRuby案件に入っていただく予定です。 その為、PythonかRubyいずれでも技術をお持ちの方を探しております。

【SE】金融機関データマネジメントシステム開発支援の求人・案件

金融機関データマネジメントシステム開発支援業務に携わっていただきます。\n\n主に下記作業をご担当いただきます。\n・データ分析用データマネジメントシステムのクラウド環境移行開発支援\n・お客様先の開発チームに参画し業務対応\n・上流設計対応、または詳細設計、及び実装作業\n・データパイプライン（Apache Spark、databricks、SAS Viya等）を用いた開発業務\n\n開発環境：AWS、GCP\n工 程 ：上流設計、詳細設計、実装、テスト実施

【SQL】【アナリティクスエンジニア】DWH層のテーブルの設計・開発・保守の求人・案件

国内シェアNo.1のクラウド会計サービス運営企業におけるアナリティクスエンジニア\nとしてご参画いただきます。\n\n【案件内容】\n意思決定をデータドリブンに行っていくために必要なDWH層のテーブルの設計・開発・保守を行っていただきます！\n想定している業務内容は以下になります。\n・DWH層テーブルの設計\n・DWH層テーブルのSQLおよびPySparkを用いた実装\n・DWH層テーブルについての問い合わせ対応・不具合調査\n・DWH層開発環境の設計・開発・保守・運用\n・DWH層開発環境の設計・開発・保守・運用\n\n【開発環境】\n言語：SQL,Python\nＦW：Apache Spark\n環境・ＯＳ：GCP (G...

【AWS/GoogleCloudPlatform】マーケ支援の基盤を支えるデータエンジニアの業務委託案件・フリーランス求人

.

QL/Python/週2~3/フルリモート/国内シェアNo.1のクラウド会計サービス運営企業におけるアナリティクスエンジニア

意思決定をデータドリブンに行っていくために必要なDWH層のテーブルの設計・開発・保守を行っていただきます！ 想定している業務内容は以下になります。 ・DWH層テーブルの設計 ・DWH層テーブルのSQLおよびPySparkを用いた実装 ・DWH層テーブルについての問い合わせ対応・不具合調査 ・DWH層開発環境の設計・開発・保守・運用 ・DWH層開発環境の設計・開発・保守・運用 以下のような方はお見送りになっております...。 ・DWH層の設計・構築経験が読み取れない方 ・クラウドのDWHの利用経験がない方 ・実装メインのため、プロジェクトマネージャーとしてのご経験が主な方 ・自然言語処理、画像処理がメインの方

【エフェクトデザイナー】自社スマホゲーム開発会社でのエフェクトデザイナー募集！

3Dエフェクトの制作実務経験 ゲーム業界での業務経験1年以上 / RPGやアクションゲームのリアルタイム3Dエフェクト制作経験 / spark gearの使用経験 / Bishamon等エフェクト制作ミドルウェアの使用経験 / MAYA等3Dツールを使用したモデリング経験

分析プログラム改修 - フリーエンジニア IT 案件 求人【エンジニアルーム】ITフリーランス ITエンジニア IT個人事業主 仕事 転職 募集

【分析プログラム改修】☆ Pyhonのバージョンアップ改修 Scala記述部分のApacheApark差し替え

システム開発案件

開発、運用を繰り返すイメージです。 AWS上でのデータ解析基盤の構築 画面側はPython,html,cssなどを使います。 利用するAWSサービスの候補 - Redshift,EMR(spark),Athena,RDS,EC2,VPC,CloudFormation,Lambda,StepFunction

某大手製造メーカー系会社　データ処理インフラ基盤の構築

■業務内容 製造メーカー系会社のデータ処理基盤の設計・構築 → 大量のログデータを蓄積するクラウド環境及び、製品に埋め込むクライアントの開発運用

モバイルアプリデータ解析支援

モバイルアプリの解析・マーケティングツールの提供、 アプリの企画・戦略コンサルティングを行っている企業にて 以下の作業を行う。 ・分析に必要なデータパイプラインの構築や中間データの整備 ・統計的手法や機会学習等の技術を用いて設計されたアルゴリズムやモデルの実装

【 hadoop,kafka,storm,spark】セキュリティプラットフォーム基盤構築

通信会社向けのセキュリティプラットフォーム基盤をOSSを利用して 新規構築する案件となります。各種製品ログをデータレイクに蓄積し、 リアルタイムなアラート検知、およびインタラクティブな集計／分析を 可能とするプラットフォームの構築案件です。

【Spark,Tensorflow】産学連携AIシステム開発における基盤構築

広告等の宣伝文章を自動構成するAIシステム開発が進んでおり、 日本語・英語を使用したコピーライティングに関するAIを載せる基盤の構築業務。 言語に関する大規模データの処理

【Python,SQL】ECサイト　デジタルマーケティング

上位リーダーのもとで作業頂くメンバーの方 領域：デジタルマーケティング領域 お客様：ECサイト

【Python,Spark】テキストマイニング

AIエージェントAPIの開発を行う企業にて テキストマイニング

【Python,Hadoop,Spark】大手外資系医療情報・テクロノジーサービス企業データ分析支援

業務内容：世界中から集まる製薬データの分析 メインフレームシステムのダウンサイジング

太陽光発電の遠隔モニタリングサービスの新基盤におけるデータ集計・分析基盤構築支援(フルリモート)

・ETL/ELTパイプラインの実装（AWS Glue/Pythonを用いたデータ抽出・加工・ロード） ・データモデリング、分析用データベース（Aurora/Athena等）の設計、正規化・非正規化の判断 ・大量データ処理（数千万〜数億件規模の時系列・センサーデータ）の集計最適化 ・IaC（Terraform/CDK）によるデータ基盤の構成管理、監視・アラート設計 ■募集背景 太陽光発電の遠隔モニタリングサービスの新基盤におけるデータ集計・分析基盤（データプラットフォーム STEP3-2）の構築に伴い、体制強化のためデータエンジニアを募集します。 ■その他歓迎スキル ・データレイク関連（Spark/Glue、Apache I...

【AWS/GCP/BigQuery】データ基盤構築支援（出社必須）

データ基盤構築を担っていただきます。 サービス運用、ビジネス分析、出版社支援など、多岐にわたるデータ活用ニーズに対応できる基盤を目指します。 <データレイク / ETL基盤の整備> ・AWS Glue（Apache Spark）を用いた分散処理およびETL開発 ・S3やLake Formationを活用したデータガバナンスおよびセキュリティ設計 ・AWSからGCPへのデータ連携フローの最適化 ・BigQueryでのデータモデリングおよびクエリのパフォーマンス改善 IaCによるマルチクラウド管理 ・Terraformを用いた環境差異の制御と自動化 <運用効率化と品質確保> ・Airflowなどを用いたワークフローの管理と...

【AWS/GCP/BigQuery】データ基盤構築支援（基本出社）

データ基盤構築を担っていただきます。 サービス運用、ビジネス分析、出版社支援など、多岐にわたるデータ活用ニーズに対応できる基盤を目指します。 データレイク / ETL基盤の整備 ・AWS Glue（Apache Spark）を用いた分散処理およびETL開発 ・S3やLake Formationを活用したデータガバナンスおよびセキュリティ設計 BigQueryベースのDWH環境構築 ・AWSからGCPへのデータ連携フローの最適化 ・BigQueryでのデータモデリングおよびクエリのパフォーマンス改善 IaCによるマルチクラウド管理 ・Terraformを用いた環境差異の制御と自動化 運用効率化と品質確保 ・Airflowな...

【Python】設備事業者/BIシステム改修プロジェクトの求人・案件

既存のTableau環境に対しDatabricksを追加採用し、社内外データを一元的・効率的に管理できる統合データ基盤を構築するプロジェクトになります。 現状：Tableau (BIツール) のみ導入済み。 構築対象範囲： ・Databricksデータ基盤環境の追加構築。 ・データレイク、DWH（データウェアハウス）の統合。 ・周辺のデータ準備処理およびワークフローの整備。 主要業務: データパイプラインの設計・構築

データ共通基盤の構築支援/半導体メーカーのエンジニア求人・案件 プロジェクト管理 / PM / コンサル・プロジェクト管理 / PMO / IT

・要件定義～開発までの一連の業務を担当 ・環境：Apache/SQL Server/Spark/Talend/HyperStore/Kafka/Attunity/NiFi ・クライアントの要望ヒアリングや調整業務

ゲーム機用オンラインサービスに関するビッグデータ分析基盤構築のエンジニア求人・案件 SAP / SAP(CO) / SAP(CO-PC) / IT

・家庭用ゲーム機用オンラインサービスに関するビッグデータ分析基盤の構築、サービス開発および運用 ・クラウドサービスを用いたETLアプリケーション、Web API開発 ・システム要件定義 、アーキテクチャ設計 ・Lightweight Language言語を用いた開発 ・Hadoop、Hive、Spark、ParquetなどのBigData解析技術を用いた開発 ・Linuxを用いたサーバ開発・運用 ・RDBやKVSを用いた開発 ・システムのテスト及びテストの自動化 ・アジャイル開発

【DWH/Cloud】データエンジニア｜医療・福祉業｜フルリモートのエンジニア求人・案件 プロジェクト管理 / PM / 指揮型PMO / 支援型PMO / プロジェクトサポート/秘書 / システムエンジニア・プログラマー / バックエンドエンジニア(サーバサイド) / スマホアプリ開発(ネイティブ) / フロントエンドエンジニア / 業務系エンジニア / データサイエンティスト / コンサル・プロジェクト管理 / PM (プロジェクトマネージャー) / PMO / インフラ・ネットワークエンジニア / DBA (データベース)管理者 / HTMLコーダー / IT / CRM/SFA/BI / AI / IoT / マーケティング / デジタルマーケティング / データサイエンティスト/アナリスト

全社のデータを統合し、社内のデータ利活用を促進するデータ基盤チームのデータエンジニアとして、ログ収集、ETL処理、DWH構築などのデータ基盤構築の責務を担っていただきます。 ■募集背景 今夏に薬局向け、医療系ユーザ向に新プロダクトがリリースされ、複数のサービスからデータを取得できるようになりました。今後、それぞれのデータを統合した新規機能開発やカスタマーサクセスにおけるデータ利活用を行うにあたり、全社横断的にデータを統合する必要性が高まってきたためデータエンジニアを募集 ■具体的な業務 分析要件に必要なテーブル、ログの定義設計 AWS Glue Job(Spark) を利用したETL処理の設計開発 Airf...

データ共通基盤の構築支援/半導体メーカー

・要件定義～開発までの一連の業務を担当 ・環境：Apache/SQL Server/Spark/Talend/HyperStore/Kafka/Attunity/NiFi ・クライアントの要望ヒアリングや調整業務

【DWH/Cloud】データエンジニア｜医療・福祉業｜フルリモート

全社のデータを統合し、社内のデータ利活用を促進するデータ基盤チームのデータエンジニアとして、ログ収集、ETL処理、DWH構築などのデータ基盤構築の責務を担っていただきます。 ■募集背景 今夏に薬局向け、医療系ユーザ向に新プロダクトがリリースされ、複数のサービスからデータを取得できるようになりました。今後、それぞれのデータを統合した新規機能開発やカスタマーサクセスにおけるデータ利活用を行うにあたり、全社横断的にデータを統合する必要性が高まってきたためデータエンジニアを募集 ■具体的な業務 分析要件に必要なテーブル、ログの定義設計 AWS Glue Job(Spark) を利用したETL処理の設計開発 Airf...

【SRE/常駐/週5日】　メガバンク向けAMLパッケージカスタマイズ開発案件

海外ベンダーの日本進出に伴い、ベンダーの日系パートナーの位置づけで参画いただきます。 他の日系金融機関にも導入が決まっており、今後拡大が見込まれ、 当案件参画を皮切りに当ベンダーのスペシャリストを育成したいと考えております。 入場は6,7月(開始時期の前倒し応相談)を想定しておりますが、参画前に2か月程英語のオンライン研修を受講いただきます。 海外ベンダーのパッケージの導入の為ビジネスレベルの方が好ましいですが、 実作業の英語頻度はそこまで高くない為、TOEICで一定のスコアを持っている方・日常英会話レベルの方でも検討可能です。 （現場PM・メンバーは日本人となっております） 案件担当のコメント 【作業場所】 ・東京駅近辺...

【Python/基本リモート/週5日】通信事業者向けゼロタッチオペレーション開発支援

データ蓄積基盤の開発 下記いずれかに該当する方を求めています。 ・Java/Scala/Pythonの開発経験 ・Scala/Sparkジョブ or AWS Kinesisによるストリーミング処理開発経験 ・OSS(Kafka,Spark,Haddp,Flink)などを利用したストリーミング処理開発経験 ・Pandasライブライを用いた開発経験 ・DataPipeline構築経験(ETL開発経験) ・AWS上でのシステム開発経験3年以上 ・Lambda、Glue Streaming job、DynamoDB、Redshift、RDSなどのマネージドサービス利用 ・ServerlessFrameworkやCloudFormat...

【Python/SQL】大手金融機関様向けDatabricks開発支援(データエンジニアリング領域)の求人・案件

Databricks環境におけるバッチの設計、開発、テストをご担当いただきます。

【開発エンジニア】大手金融機関様向けDatabricks開発の求人・案件

大手金融機関向けに、Databricksを使用した開発を担当していただきます。 データエンジニアリング領域での業務です。

【Python/SQL】コマーステクノロジ領域のデータ関連支援(リモート併用可)

・課題の特定からアドホック分析、モデル構築、モデルデプロイメントまでの一連のデータサイエンスワークフローの遂行 ・当該企業が保有する多様なデータまたは外部データを活用した、顧客行動の分析インサイトの導出 ・ビジネス課題を解決するためのSQLやSparkなどを活用した大規模データの処理、適切な予測モデルやアルゴリズムの選択・実装、革新的なソリューションの提案 ・汎用的なデータサイエンスプロダクトの開発 ・データサイエンティスト、コンサルタント、プロジェクトマネージャー、データ戦略家との協働 ・スキルやナレッジを共有・学習する文化の創出 ・Spark、Hive、Kafka、Spark-Streaming、Hadoop、Google...

【Python /一部リモート/週5日】フロー管理システムの開発・保守作業

フロー管理システムの開発・保守作業

【開発エンジニア】MW/SWのバージョンアップに伴うJAVA開発の求人・案件

【概要】 ・車両の走行データなどを専用車載器から収集し、それをWeb上で運転者・管理者が把握できるシステムのMW/SWのバージョンアップ対応 【作業内容】 ・プログラム修正（BeanMapping ライブラリDozerからMapStructに変更） ・単体テスト（画面打鍵及びJUNITテスト） 【環境】 ・OS：Red Hat Enterprise Linux ・Webサーバ：Apache HTTP Server ・APサーバ：Apache Tomcat ・F/W：TERASOLUNA ・DB：PostgreSQL ・開発言語 ：Java(JDK17)

【原則フルリモート・データ基盤の設計/構築・Python】 自社プロダクトにおけるデータエンジニア

・データエンジニアとして、現在構築を進めている新データ基盤への移行を進めるための開発作業をお任せします。 ■工程・担当業務 ・Databricks 上に構築された社内向けの新データ基盤の開発・運用 ・AWS 上に構築された旧データ基盤の運用 ・社内各所の要求に応じた dbt によるデータモデリング ■募集人数 ・１名 ■開発環境 クラウドサービス：AWS (S3, Athena, Glue, MWAA, Kinesis, Lambda, etc.) データ基盤：Databricks, Redash, etc. データモデリング：dbt プロビジョニング：Terraform 開発ツール：GitHub, Slack, JIRA