[前][次][番号順一覧][スレッド一覧]

learn-ruby-in-kansai:227

From: "mbaba" <xml@t...>
Date: Wed, 16 Feb 2005 02:43:28 +0900
Subject: [learn-ruby-in-kansai:227] Re: win32oleでBignumの定数を使うには?

馬場@大阪です
cuzicさん
お忙しいところ、レスありがとうございます。
> > InDesignの場合、定数がBignum(10桁の整数)になってまして、
> > プロパティの設定や定数の絡むメソッド呼び出しでエラーになります。
> > BignumはActiveScriptRubyではサポートされていないようで
すみません、言語としてはサポートされているんですが、WIN32OLEのほうの
型変換の制約でBignumではWSH側で対応する型がないのでDoubleに変換して
しまう、、、というといいんですよね^^;
InDesignの定数がちょうど31ビット使ってまして、符号入れて31ビットのFixNumに
ならなくて、Bignumになってしまっています。
読み出しは、できるんですが、セットができない^^;

> Win32OLE を使っていると、エラーメッセージを読み解くのが難しいですよね。
method_missingというエラーがでてくるんですけど、実際は違うんですよね。

>
> ADO の記事を書いたところですし、ADO で 10進数型とか長整数型にして、
> 10^12 くらいの数字をデータベースに入れてどういう動作になるのかを
> 確認してみました。
> それの結果としては、長整数型だと FixNum ですが、10進数型では
> String になるようですね。
> 特にそのときにエラーは発生しませんでした。
32bitだと大体4*10**9ぐらいになるので、2*10**2あたりの数値でもそうですかね。

適当に補数もつかってみたりしましたが、だめみたいです。
なんか、すごい単純なとこ見逃してそうなんですが、、、
InDesignの定数は鬼門かな^^;
JavaScriptでメインを書いて、テキスト処理だけ、Rubyにまかすようになりそうで
す。

馬場幹彦



--
ML: learn-ruby-in-kansai@r...
使い方: http://QuickML.com/

[前][次][番号順一覧][スレッド一覧]

       223 2005-02-11 19:27 [babie7a0@y...       ] 第1回のサマリ                           
       224 2005-02-13 06:06 ┗[xml@t...            ] win32oleでBignumの定数を使うには?    
       226 2005-02-15 14:45  ┗[tomoya@c...         ]                                     
->     227 2005-02-15 18:43   ┗[xml@t...            ]                                   
       259 2005-03-28 16:44    ┗[tomoya@c...         ] オープンソースカンファレンス行ってきました。
       260 2005-03-29 09:58     ┣[moriq@m...          ]                               
       261 2005-03-29 13:49     ┗[xml@t...            ]                               
       262 2005-03-30 14:36      ┗[gollum@h...         ]                             
       263 2005-03-31 17:20       ┗[tomoya@c...         ]