2017-01-01から1年間の記事一覧

windows10 既定のプログラムの変更方法

コントロール パネル\プログラム\既定のプログラム\関連付けを設定する

Embulk を Windows10 に インストール してみた

1. インストール コマンドプロンプトを起動 PowerShell -Command "& {Invoke-WebRequest http://dl.embulk.org/embulk-latest.jar -OutFile embulk.bat}" > d: <- Dドライブにインストールする場合 > mkdir embulk > cd embulk > copy C:\Users\hoge\embulk.…

pyspark の 実行で Out Of Memory になったとき Spark の ヒープサイズ を変える方法

$SPARK_HOME/conf/spark-defaults.conf を 編集する spark.driver.memory 20g

pyspark を Windows10 にインストール

Anaconda Prompt(py27) を起動 pip install pyspark 環境変数 PYSPARK_DRIVER_PYTHON=jupyter-notebook C:\Users\hoge\Anaconda3\envs\py27\Scripts\pyspark2.cmd を編集 rem Figure out where the Spark framework is installed rem set SPARK_HOME=%~dp0..…

Apache Spark を Windows10 にインストールして上手くいかなかったときにやったこと

Spark をダウンロードして解答する tgz http://spark.apache.org/downloads.html winutils.exe をダウンロードして Spark の bin ディレクトリに置く https://github.com/steveloughran/winutils/blob/master/hadoop-2.7.1/bin/winutils.exe この後、起動が…

Twitter アプリケーション 作成手順

↓を参考に4つのキーを取得したhttp://wepicks.net/twitter-restapi-tmhoauth/#item2-1 Consumer Key (API Key) Consumer Secret (API Secret) Access Token Access Token SecretURLが必要になるので 適当なURLがない場合は SNS のアカウントなどを使う

MongoDB + Windows 10 インストールしてみた

↓ を参考に MongoDB をインストールhttp://testpy.hatenablog.com/entry/2017/09/23/214957インストールしたらPC再起動するか Windowsメニュー -> Windows管理ツール -> コンピュータの管理 サービスとアプリケーション -> サービス -> MongoDB -> 開始 Anco…

Anaconda + PyCharm + Windows10 に Python2.7 環境を追加してみた

1. スタートメニュー -> Anaconda3(64bit) -> Anaconda Prompt 2. conda コマンドで Python 2.7 環境を作る Anaconda も一緒にインストールする conda create -n py27 python=2.7 anaconda # Python 2.7 環境は以下にインストールされる C:\Users\hoge\Anaco…

で Extract N-Gram Features from Text 使えない

Azure Machine Learning Studio でテキスト分析モデルを作成する https://docs.microsoft.com/ja-jp/azure/machine-learning/machine-learning-text-analytics-module-tutorial 上を参考に日本語文章の分類をやってみたが上手くいかない どうも原因は Extrac…

Request Timeout after 30000ms になったときにやったこと

タイムアウト値を伸ばす # vi /etc/kibana/kibana.yml #elasticsearch.requestTimeout: 30000 elasticsearch.requestTimeout: 60000

word2vec インストール メモ

git clone https://github.com/svn2github/word2vec.git cd word2vec make ./demo-word.sh sudo mv word2vec /usr/local vi .bash_profile PATH=$PATH:/usr/local/word2vec export PATH

API を使って Python から操作

ポイントは "Content-Type":"application/json" するところ これに気づかなくって少しハマりました # -*- coding: utf-8 -*- import urllib.parse import urllib.request import json TeamUrl= 'https://hoge.qiita.com/api/v2/' headers= {"authorization":…

Python sklearn と gensim をインポート して セグメンテーション フォルトになったときにやったこと Anaconda

インポートの順序を逆にすれば治った NG の場合 $ python Python 3.6.1 |Anaconda 4.4.0 (64-bit)| (default, May 11 2017, 13:09:58) [GCC 4.4.7 20120313 (Red Hat 4.4.7-1)] on linux Type "help", "copyright", "credits" or "license" for more informa…

Natural Language Classifier CSVファイルで学習させる

CSV学習データを作るときに気を付けること ・ テキストに改行、タブが入っているとエラーになって登録できない。\n, \r, \t はスペース等に置き換える ・ テキストの長さは1件あたり1024文字以内にする。超えるとエラーになって登録できない ・ 文字コードは…

自然言語処理環境構築 メモ 2017

sudo yum update # GCC 他 sudo yum -y install gcc-c++ glibc-headers openssl-devel readline libyaml-devel readline-devel zlib zlib-devel libffi-devel libxml2 libxslt libxml2-devel libxslt-devel sqlite-devel sudo yum install git patch # Java …

Elasticsearch 5.4 を Amazon Linux にインストールした時にやったこと

Elasticsearchを起動したときに出たエラー ERROR: [2] bootstrap checks failed [1]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536] [2]: max virtual memory areas vm.max_map_count [65530] is too lo…

IBM Watson ユーザ名 と パスワードの 確認方法 username password

左上 「三」-> サービス -> ダッシュボード 対象サービスをクリック 左ナビゲーション サービス資格情報 Credentisls-1 -> 資格情報の表示 ユーザ名とパスワードは作成したサービスごとに異なる

goofys を 使って S3 をマウントしてみた メモ

$ sudo yum update -y $ sudo yum install golang fuse -y $ export GOPATH=~/go $ go get github.com/kahing/goofys $ go install github.com/kahing/goofys $ mkdir マウントポイント $ ~/go/bin/goofys バケット名 マウントポイント

ホンダ ディーラ オプション ナビ VXM-165VFI ( パナソニック製 音の匠 ) 向け 動画 エンコード パラメータ メモ

set PICTURE=--maxWidth 720 --maxHeight 480 --modulus 4 set VIDEO=--encoder x264 --x264-preset medium --h264-profile baseline --h264-level 2.1 --quality 20 --rate 30 --pfr set AUDIO=--audio 1 --aencoder faac --ab 192 --arate 48 --mixdown st…