1
Problem mit Variablentyp Double und extrem grosser Zahl
Hallo!
Ich hab schon gesucht, aber nicht das passende oder einen Ansatz gefunden.
Ich schreibe mir grad ne dll, wo ich Kurvenanpassung machen will.
Im Moment bin ich bei einer Funktion 3. Grades.
Details sind so erst mal uninteressant.
Ich habe um die Berechnungen zu machen alle Variablen dafür als Double gekennzeichnet.
Aber es kommt Error 6 Overflow.
Das Probelm is nur, das der Ausdruck ziemlich komplex ist und sich nicht aufteilen lässt.
Habt ihr ne Idee wie man einfach mehr Speicherplatz für ne Varibale reservieren könnte?
Ich hab mal was von Extend als Typ gehört. Aber unter VB6 Pro gibts sowas nicht.
Freue mich auf Anregungen!!!!
florengray
:edit
Hab den Ausdruck mit Derive aufgelöst und dann mit den Variablennamen für meine dll zurechgewurschtelt.
Derive kann mit solch grossen Zahlen umgehen. Wie macht Derive dass denn?
Ich hab schon gesucht, aber nicht das passende oder einen Ansatz gefunden.
Ich schreibe mir grad ne dll, wo ich Kurvenanpassung machen will.
Im Moment bin ich bei einer Funktion 3. Grades.
Details sind so erst mal uninteressant.
Ich habe um die Berechnungen zu machen alle Variablen dafür als Double gekennzeichnet.
Aber es kommt Error 6 Overflow.
Das Probelm is nur, das der Ausdruck ziemlich komplex ist und sich nicht aufteilen lässt.
Habt ihr ne Idee wie man einfach mehr Speicherplatz für ne Varibale reservieren könnte?
Ich hab mal was von Extend als Typ gehört. Aber unter VB6 Pro gibts sowas nicht.
Freue mich auf Anregungen!!!!
florengray
:edit
Hab den Ausdruck mit Derive aufgelöst und dann mit den Variablennamen für meine dll zurechgewurschtelt.
Derive kann mit solch grossen Zahlen umgehen. Wie macht Derive dass denn?
Auf Facebook teilen
Auf Twitter teilen
Auf Reddit teilen
Auf Linkedin teilenBitte markiere auch die Kommentare, die zur Lösung des Beitrags beigetragen haben
Content-ID: 98591
Url: https://administrator.de/contentid/98591
Ausgedruckt am: 25.11.2024 um 08:11 Uhr
1 Kommentar
Hallo nochmals.
Scheint ja schwierig zu sein.
Ich hab gelesen, dass man angeblich Variablen "verketten" kann.
Da ging es um das gleiche Problem aber nur mit Delphi.
Das müsste doch auch unter VB nöglich sein.
Wäre wirklich nett, wenn man mir da helfen könnte. Ich rätsel nämlich schon lange hin und her.
florengray
Scheint ja schwierig zu sein.
Ich hab gelesen, dass man angeblich Variablen "verketten" kann.
... Arithmetik großer Zahlen wäre, dass du mehrere "normale" Datentypen aneinander hängst.
So erhältst du z.B. eine 256-Bit-Zahl durch das Verketten von 8 32-Bit-Integern.
So erhältst du z.B. eine 256-Bit-Zahl durch das Verketten von 8 32-Bit-Integern.
Da ging es um das gleiche Problem aber nur mit Delphi.
Das müsste doch auch unter VB nöglich sein.
Wäre wirklich nett, wenn man mir da helfen könnte. Ich rätsel nämlich schon lange hin und her.
florengray
