ds_set_precision
개요
ds_set_precision 함수는 GameMaker에서 값 비교 시 사용하는 정밀도를 설정하는 함수입니다. 주로 실수(real number) 값을 비교할 때 유용하며, 부동 소수점(round-off) 오류로 인해 발생할 수 있는 문제를 방지하는 데 도움을 줍니다.
문제 설명
값을 비교할 때, 예를 들어 맵에서 검색하거나 리스트를 정렬할 때, GameMaker는 두 값이 같은지 여부를 결정해야 합니다. 문자열이나 정수 값의 경우 비교가 명확하지만, 실수의 경우 부동 소수점 오류로 인해 겉보기에는 같은 값이지만 실제로는 다를 수 있습니다. 예를 들어, (5 / 3) * 3이 5와 같지 않을 수 있습니다!
이러한 문제를 피하기 위해, 모든 실수 함수에 대해 정밀도 값을 사용합니다. 두 숫자 간의 차이가 이 정밀도 값보다 작으면 두 숫자는 같다고 간주됩니다. 기본 정밀도 값은 0.0000001이며, 이 값은 이 함수에 의해 변경되지 않는 한 모든 데이터 구조 함수에 사용됩니다. 이 정밀도는 모든 데이터 구조에서 사용되지만 GML의 다른 비교에서는 사용되지 않습니다.
문법
ds_set_precision(prec);
인자
| 인자 | 타입 | 설명 |
|---|---|---|
| prec | Real | 정밀도 값 (기본값 0.0000001) |
반환값
- N/A
예제
ds_set_precision(0.0001);
위 코드는 모든 데이터 구조 함수에 대한 기본 정밀도 설정을 0.0001로 변경합니다.
활용 예제
- 정밀도 설정 후 데이터 구조 사용
ds_set_precision(0.00001); var my_list = ds_list_create(); ds_list_add(my_list, 1.000001); ds_list_add(my_list, 1.000002); var is_equal = (ds_list_find_value(my_list, 0) == ds_list_find_value(my_list, 1)); - 정밀도를 변경하여 비교
ds_set_precision(0.0001); var a = 0.1 + 0.2; var b = 0.3; var are_equal = (a == b); - 정밀도 설정 후 맵에서 값 검색
ds_set_precision(0.0001); var my_map = ds_map_create(); ds_map_add(my_map, "key1", 0.3333); var value = ds_map_find_value(my_map, "key1"); var is_match = (value == 0.3333); - 정밀도 변경 후 리스트 정렬
ds_set_precision(0.00001); var my_list = ds_list_create(); ds_list_add(my_list, 0.1); ds_list_add(my_list, 0.2); ds_list_sort(my_list, true); - 정밀도 설정을 통한 데이터 구조 비교
ds_set_precision(0.0001); var my_array = array_create(2); my_array[0] = 1.0001; my_array[1] = 1.0002; var are_similar = (my_array[0] == my_array[1]);