[argyllcms] Re: Logfile precision limited?

  • From: Graeme Gill <graeme@xxxxxxxxxxxxx>
  • To: argyllcms@xxxxxxxxxxxxx
  • Date: Mon, 25 Mar 2019 12:38:48 +1100

Christopher Birkett wrote:

Hi,

I'm using an X-Rite i1Studio to take ambient sensor measurements. When I
save the spectrum data while spotread is running (i.e. hit "s"), the data
has 6 digits after the decimal point. When I use the "logfile" option to
save the results from the -s flag (print spectrum), I only get 3 points. I
don't understand the technical aspects to know whether the difference is
meaningful, but it's enough to alter things when I plot the spectrum data
and calculate results from it.

I think it's just because I formatted it to be right for reflective
measurements rather than emissive. I'll change the format to
be a bit more flexible in the next release.

Cheers,
        Graeme Gill.

Other related posts: